조사 기준일: 2026-11-08, Asia/Seoul 문헌 범위: 2025-01-01~2026-11-08 공개 연구, 고유 연구 26편, 주제군 10개 문서 성격: 구조화된 연구 해설·비판적 종합. 전수 조사나 메타분석이 아님.
기존 글과 이번 조사에서 추가한 내용
블로그의 2026-09-16 HAI 종합 글을 확인했다. 이번 글은 첨부 자료의 10개 주제군을 각각 11개 항목으로 재구성하고, 이후 공개된 Kolab·HAIDL·상호작용 실패 분류·Avatar Intelligence·HAIS 연구를 추가한 별도 심층 해설이다. 기존 글을 덮어쓰지 않으며, 기존 글의 인용은 독립적인 학술 근거로 세지 않았다. 아첨 연구의 실험 규모·출판 상태도 이번에 확인한 정식본으로 명시한다.
조사 개요와 읽는 방법
종합 해석: Frontier AI의 능력을 협업의 효용으로 바꾸는 핵심은 답변 생성 이후의 설계다. 누가 목표를 정하고, 어떤 근거로 위임하며, 언제 수정·중단하고, 결과의 책임과 학습을 어떻게 보존하는지가 연구의 중심 문제가 된다. 이는 모든 연구가 한 방향으로 수렴했다는 통계적 결론이 아니라, 아래 문헌들을 연결한 분석 틀이다.
개별 모델의 정답률, 인간–AI 팀의 과업 성과, 사용자의 통제감, 실제 개입 능력, 장기적인 인간 역량은 서로 다른 결과 변수다. 한 지표의 개선으로 다른 지표의 개선을 대신 주장하지 않는다.
검증 범위: 26편의 제목·연도·내용을 공식 논문 저장소, 출판사, 저자기관 또는 공식 서지 색인에서 확인했다. 모든 논문의 전체 본문을 읽은 것은 아니다. 근거표의 verification_scope에 초록·서지, 본문 일부, 방법·결과 절 확인을 구분했다. P20은 출판사 접근 제한으로 PubMed의 서지·초록에 한정되며, P22는 출판사 검색 색인의 초록을 확인했다. 이 둘의 세부 효과 크기나 방법을 추정하지 않는다.
기간 검증: arXiv 연구는 v1 날짜와 최신 버전을 구분했다. P17·P19·P20·P22·P26은 확인한 출판일을 기록했으며, 더 이른 공개본의 부재까지 입증한 것은 아니다. 향후 기간 재검증 대상으로 남긴다. 서베이가 검토한 원논문까지 모두 2025년 이후라는 의미도 아니다. 예를 들어 P19의 검색은 2024년에 수행됐다.
표현 구분: ‘문헌 근거’는 확인한 연구 내용, ‘종합 해석’은 연구 간 연결, ‘제안’은 이 보고서가 도출한 미검증 가설이다. 아래 정의는 문헌을 이해하기 위한 작업 정의이며 보편적으로 합의된 표준으로 제시하지 않는다. 연구 질문에는 문헌의 탐구 대상과 본 보고서가 추가하는 질문을 구분한다. 응용에는 논문에서 다룬 맥락과 확장 제안을 구분한다.
주제 정규화와 첨부 원문 대응
첨부의 반복 설명은 이 표로 합쳤다. 학회·저널의 순위·IF·심사기간·합격률은 연구 내용의 근거가 아니므로 제외했다. XR과 코드 페어 프로그래밍은 각각 T09와 T10에 포함하되, 이번 선정 문헌이 모든 응용을 균등하게 대표하지는 않는다.
용어의 경계
T01. 인간–AI 협업과 팀 구성
1. Definition
인간–AI 협업은 공통 과업의 결과가 양측의 기여와 조정에 의존하는 과정이다. 사용자가 완성된 AI 답변을 복사하는 상황까지 모두 ‘팀’으로 부르면 역할의 상호의존성을 측정하기 어렵다. 여기서는 협업을 과업 분담, 공동 이해, 조정, 결과 통합으로 나누어 분석한다.
2. Problem Definition
연구원이 보고서의 근거를 찾고 AI가 초안을 만드는 경우, 좋은 문장과 좋은 최종 보고서는 다르다. 인간이 오류를 발견하고 출처와 결론을 연결하는 데 드는 시간이 총비용에 포함된다. 문제는 제한된 시간 안에서 품질을 유지하며 조정·수정 비용까지 줄이는 역할 분담을 찾는 것이다.
3. Core Concepts
상보성은 인간과 AI가 서로 다른 약점을 보완하는 정도다. Common ground는 양측이 공유하는 목표·지시 대상·상황 이해다. 조정 비용은 그 이해를 맞추는 데 드는 노력이며, 채택·수정·거절은 AI의 기여가 실제 작업으로 연결되는 서로 다른 경로다. 이 변수들을 한 만족도 점수로 합치면 실패 원인이 사라진다.
4. Introduction
최근 연구는 ‘AI가 혼자 얼마나 잘하는가’와 ‘전문가가 AI와 함께 얼마나 잘하는가’를 분리한다. 공통 기반 퍼즐 벤치마크 P04와 전문 업무 워크플로 P05는 서로 다른 규모에서 이러한 차이를 다룬다. 단일 벤치마크가 두 맥락을 대표하지는 않는다.
5. Motivation and Background
과업이 길어질수록 초기 오해가 후속 단계의 재작업으로 이어질 수 있다. 보고서 문장 생성이 빨라도 잘못 이해한 요구사항을 바로잡는 비용이 크면 전체 효용은 낮아진다. 따라서 모델 선택뿐 아니라 언제 질문하고 어떤 중간 결과를 공유하는지도 설계 대상이 된다.
6. Challenges
전문성·과업 난도·모델 능력이 동시에 변한다. 사용자가 쉬운 일만 AI에 맡기면 높은 채택률이 높은 협업 능력처럼 보일 수 있다. 팀 성과와 사용자 단독·AI 단독 성과를 같은 정보·시간 조건에서 비교하고, 쉬운 과업 선택과 협업 자체의 효과를 분리해야 한다.
7. Research Questions
문헌의 질문은 공동 이해와 실제 기여 수용을 어떻게 평가할 것인가다. 제안 질문은 ‘초기 목표를 명시적으로 재확인하는 절차가 추가 대화 비용보다 큰 재작업 감소를 만드는가’다. 초보자와 전문가에서 효과가 다를 수 있으므로 전문성을 조절변수로 두어야 한다.
8. Approaches (Methods)
문헌 근거: P04는 상황 인식을 조작하는 협력 퍼즐을 제시한다. P05는 50명의 전문 업무에서 화면·대화·워크플로 그래프를 수집하고 AI 기여의 채택 여부와 협업 평가를 예측한다. P18은 숙련 개발자의 실제 과제 246개에서 AI 허용 여부를 무작위화했다. 이 결과들을 동일한 ‘협업 점수’로 순위화할 수는 없다.
9. Key Applications
검증 맥락에는 협력 퍼즐, 전문 업무, 소프트웨어 수정이 있다. 연구기획 적용은 제안이다. 연구자는 문제와 평가 기준을 정하고 AI는 후보와 근거를 제공하며, 최종 판단의 책임자는 별도로 명확히 둘 수 있다. 이 구성의 효과는 실제 기획 과제로 검증해야 한다.
10. Open Problems
단기 채택이 장기적인 신뢰성이나 재사용 가치를 뜻하는지 불분명하다. AI 제안을 거절한 것이 실패인지, 인간이 적절히 오류를 거른 성공인지도 과업 맥락에 따라 달라진다. 채택률만으로 협업을 최적화하면 부적절한 수용을 장려할 수 있다.
11. Future Directions
제안: 동일 과업에서 인간 단독·AI 단독·일반 대화·공통 목표 확인 조건을 비교하라. 최종 품질을 일차 지표로, 재작업 시간·오해 복구·판단 근거를 보조 지표로 두어라. 목표 확인 조건이 시간을 늘리면서 품질·복구를 개선하지 못하면 해당 설계의 효용 가설은 지지되지 않는다.
T02. 인간의 주도권·위임·에이전트 통제
1. Definition
주도권(agency)은 사용자가 목표를 형성하고 선택하며 결과에 영향을 주는 능력과 경험을 포함한다. 통제는 그 선택을 시스템에 실행시키는 수단이다. 위임은 과업 실행과 일정한 권한을 다른 주체에게 맡기는 행위이며, 포괄적 동의 한 번과 동일하지 않다.
2. Problem Definition
‘관련 논문을 찾아라’와 ‘논문을 근거로 블로그에 공개 게시하라’는 서로 다른 권한을 요구한다. 에이전트가 여러 도구를 연속 실행할 때 사용자는 시작과 결과만 볼 수 있다. 연구 문제는 사용자의 의도와 권한 범위를 잃지 않으면서 불필요한 개입을 줄이는 것이다.
3. Core Concepts
위임 범위, 유효 기간, 재위임 가능성, 중단 지점, 되돌리기 가능성, 책임 소재를 분리한다. 사용자가 ‘중단’ 버튼을 볼 수 있어도 행동이 이미 확정되면 실효 통제는 약하다. 따라서 통제감 질문지와 실제 중단 성공률을 함께 측정해야 한다.
4. Introduction
P01의 위임 프레임워크는 과업 할당에 권한·책임·검증을 포함한다. P03은 개인 에이전트의 감독 부담을 성과 평가에 넣자고 제안한다. 이들은 중요한 설계 의제지만, 제안된 체계가 기존 인터페이스보다 우수하다는 대규모 실증으로 읽어서는 안 된다. P01, P03
5. Motivation and Background
자동화의 이점은 사람이 모든 단계를 확인하지 않을 때 생긴다. 반면 예외가 발생했을 때 문맥을 되찾는 비용은 커질 수 있다. 모든 행동을 승인하게 하는 설계와 마지막 결과만 보여주는 설계 사이에 과업별 선택지가 필요하다는 것이 본 보고서의 종합 해석이다.
6. Challenges
의도는 불완전하고 권한은 상황에 따라 달라진다. 문서 수정은 되돌릴 수 있어도 외부 공개의 파급을 완전히 회수하기는 어렵다. 같은 사용자라도 자료 탐색에는 넓게 위임하고 최종 판단에는 좁게 위임할 수 있으므로, 단일 자율성 슬라이더로 충분한지 검증해야 한다.
7. Research Questions
문헌은 자율성이 달라질 때 실패의 형태와 사용자 대응 가능성이 어떻게 달라지는지 묻는다. 제안 질문은 ‘되돌리기 비용과 영향 범위에 따라 확인 시점을 정하면, 같은 확인 횟수에서 사후 복구가 개선되는가’다. 확인을 많이 하는 것 자체를 성공으로 평가하지 않는다.
8. Approaches (Methods)
문헌 근거: P02는 공개 사고 695건을 분석해 상호작용 중·실패 시·시간 경과 후의 12유형을 도출했다. 사고 기록의 선택편향 때문에 유형별 건수를 실제 발생률로 해석할 수 없다. P23은 집단 대화에서 에이전트 발화의 시점·내용·통제 주체를 다룬다. P02, P23
9. Key Applications
문헌 맥락에는 대화형 에이전트, 코드·UI 행동, 집단 아이디어 작업이 포함된다. 연구기획에서는 검색→요약→판단→배포 단계별 위임 범위를 명시하는 구조를 제안한다. 공동 문서에서는 개인 사용자의 허용과 조직의 공개 권한도 분리해야 한다.
10. Open Problems
위임을 철회한 이후에도 이전 권한이 다른 도구·하위 에이전트에 남는 문제가 있다. 사용자 통제 바깥에 있는 제3자가 결과의 영향을 받을 수도 있다. 하나의 인터페이스에서 취소할 수 있다는 사실만으로 전체 위임 사슬의 통제가 보장되지 않는다.
11. Future Directions
제안: 권한·기간·완료 조건·철회 경로를 실행 가능한 위임 명세로 기록하고, 시스템이 명세를 넘는 순간을 주입해 검증하라. 감시 부담, 경계 위반, 적시 중단, 복구 비용을 동시에 평가한다. 위반 감소가 동일한 사용자 부담 조건에서도 유지되는지가 핵심 판정이다.
T03. 신뢰 조절·의존·아첨
1. Definition
신뢰는 불확실한 상황에서 AI에 대해 형성하는 기대·태도이고, 의존은 실제로 제안을 따르는 행동이다. 적절한 의존은 AI가 맞을 때 활용하고 틀릴 때 거부하는 능력이다. Sycophancy는 사실·가치 판단의 타당성보다 사용자에게 동의하는 방향으로 반응하는 현상을 말한다.
2. Problem Definition
사용자가 유창한 설명을 정확성의 단서로 받아들이면 오류도 설득력을 얻는다. 반대로 유용한 AI 제안을 무조건 배제해도 성과는 낮아질 수 있다. 목표는 신뢰 총량을 높이는 것이 아니라, 과업별 정확성과 위험에 맞게 행동을 조절하는 것이다.
3. Core Concepts
과신과 과잉 의존은 구별한다. 전자는 자기보고 확신, 후자는 틀린 조언의 수용에서 관찰될 수 있다. Agency decay는 독립 판단의 약화를 탐구하는 문제틀로 사용하되, 모든 AI 사용의 필연적 결과로 쓰지 않는다. 만족도·정확도·독립 검증·무보조 수행은 별도 지표다.
4. Introduction
문헌은 ‘이 설명을 신뢰하는가’에서 ‘언제 확인하고 언제 거부하는가’로 측정 범위를 넓힌다. P11은 설명·출처·불일치가 의존에 미치는 효과를, P12는 사용자가 선호하는 아첨이 사회적 판단과 분리될 수 있음을 다룬다. P11, P12
5. Motivation and Background
일반적인 ‘AI는 틀릴 수 있다’ 경고는 어느 응답이 틀렸는지 알려주지 않는다. 사용자는 과업 전문성, 출처 비용, 시간 압박에 따라 확인 전략을 선택한다. 적절한 의존을 지원하려면 일반 경고보다 구체적인 근거와 오류의 징후를 제공할 필요가 있다는 가설이 생긴다.
6. Challenges
설명은 이해와 설득을 동시에 높일 수 있다. 출처가 있어도 링크의 실재성·관련성·주장 지지 여부는 별개다. 사용자가 원래 의심스러운 답변에서만 링크를 클릭하면, 클릭 집단의 정확도를 단순 비교해 클릭의 인과효과라고 말할 수 없다.
7. Research Questions
문헌 질문은 설명과 출처가 정오답 수용을 어떻게 바꾸는가, 그리고 아첨이 어떤 판단 변화를 만드는가다. 제안 질문은 ‘주장–근거 대응을 확인하는 짧은 절차가, 일반 경고보다 오답 수용을 줄이면서 정답 활용을 유지하는가’다. 아첨 억제와 불필요한 반대도 구분해야 한다.
8. Approaches (Methods)
문헌 근거: P11의 308명 통제 실험에서 설명은 정답·오답 의존을 모두 높일 수 있었다. 출처와 불일치의 효과를 구분했으며, 불일치는 무작위 조작이 아니었다. P12 정식본은 3개 사전등록 실험 2,405명을 보고한다. 초기 프리프린트의 1,604명과 혼합하면 안 된다. P24의 최신 초록은 13문항 척도 타당화를 보고한다.
9. Key Applications
검증 맥락은 객관 질문 응답, 대인 갈등 조언, 지식업무 설문이다. 연구기획 적용으로는 평가 기준 추천이나 기술 전망에 대한 반례·근거 표시를 제안한다. 사용자가 원하는 결론에 맞춘 그럴듯한 문장을 생산하는 능력을 좋은 기획 지원으로 평가해서는 안 된다.
10. Open Problems
P17은 자가보고 기반 인지 노력의 연관을 보여주지만 장기 능력 저하의 인과증거는 아니다. P24의 척도도 한국어 번역과 집단 간 비교에서 별도 타당화가 필요하다. 반복 상호작용이 독립 판단에 미치는 효과는 무보조 평가와 추적 연구로 확인해야 한다. P17, P24
11. Future Directions
제안: 정답/오답을 균형화한 조언 과제로 행동을 측정하고, 뒤이어 AI 없는 전이 과제를 실시하라. P25의 메타인지 질문은 개입 후보지만 장기 역량 유지가 입증됐다고 보지 않는다. 오류 수용 감소와 무보조 성과 보존을 공동 기준으로 두고, 확인 시간 증가도 보고한다. P25
T04. 설명에서 수정·이의 제기로
1. Definition
설명 가능성은 결과나 작동에 대한 이해를 돕는 성질이다. Interactive AI는 사용자가 시스템 동작을 바꾸는 피드백 경로를 제공한다. Contestability는 결과에 이의를 제기하고 재검토·수정·구제를 받을 수 있는 구조다. 읽기 쉬운 설명만으로 후자의 조건이 충족되지는 않는다.
2. Problem Definition
AI가 잘못된 가정으로 계획을 세운 뒤 길게 설명한다면, 사용자는 내용을 이해해도 행동을 고치기 어렵다. 필요한 것은 설명에서 오류를 찾고 그 오류에 대응하는 가정·계획·결과를 실제로 수정하는 연결이다. 연구 문제는 그 연결의 정확성과 비용을 측정하는 것이다.
3. Core Concepts
가시성, 편집 가능성, 실행 반영성, 추적 가능성, 구제 가능성을 구분한다. 화면에 보이는 CoT는 모델 내부 계산의 완전한 기록으로 간주하지 않는다. 사용자의 편집이 결과에 미친 영향을 별도로 시험해야 하며, 보기 좋은 추론 트리가 충실한 설명이라는 보장은 없다.
4. Introduction
P15의 Hippo는 추론 텍스트를 계층화하고 사용자가 수정할 수 있게 한다. P16의 AIPOM은 에이전트 계획을 대화와 그래프로 다룬다. 두 시스템은 개입 경로의 구체적 사례지만, 한 시스템의 사용자 경험 개선을 모든 의사결정의 정확도 개선으로 확대하면 안 된다. P15, P16
5. Motivation and Background
설명이 길어지면 읽기 비용이 높아지고, 중요한 가정이 배경 문장에 묻힐 수 있다. 사용자는 모델 전체를 이해하기보다 지금 결정에 필요한 부분을 바꾸고 싶을 수 있다. 설명의 양보다 개입 위치와 수정 결과의 확인이 중요하다는 설계 가설을 검토할 필요가 있다.
6. Challenges
부분 수정이 다른 단계와 충돌할 수 있다. 반대로 시스템이 사용자의 편집을 무시하고 결과만 유창하게 바꿀 수도 있다. 통제감을 높이는 장치가 잘못된 확신을 만들 가능성도 있으므로, 자기보고와 행동 실험을 병행해야 한다.
7. Research Questions
문헌은 계층화·편집이 이해와 통제 경험에 어떤 영향을 주는지 묻는다. 제안 질문은 ‘표시된 가정 수정과 실제 실행 제한을 연결하면, 시각적 편집만 제공할 때보다 오류 탐지·수정 성공이 높아지는가’다. 편집 가능성의 심리효과와 기능효과를 분리하는 설계가 필요하다.
8. Approaches (Methods)
문헌 근거: P15는 16명이 계층형 인터페이스와 편집 가능한 텍스트 기준선을 비교했다. P22의 확장초록은 편집에 따른 통제감과 정확도 변화가 일치하지 않을 수 있다고 보고한다. 다만 P22 전체 본문에 접근하지 못했으므로 표본·효과 크기·매개 경로를 확정하지 않는다. P22
9. Key Applications
문헌에서 다룬 계획·일상 의사결정이 출발점이다. 연구기획에서는 사업 목표와 예산 가정을 노드로 나누고, 가정을 수정하면 관련 결론의 재검토 위치를 표시하는 방식을 제안한다. 실제 정책적 타당성이나 조직 의사결정 품질의 향상은 별도 평가 대상이다.
10. Open Problems
이의 제기 기능이 있어도 재검토 주체·응답 기한·수정 기록이 없으면 구제가 형식적일 수 있다. Co-design은 사용자에게 모든 설계 부담을 넘기는 것과 다르다. 어떤 결정이 사용자에게 의미 있고 어떤 부분은 자동화할 수 있는지 과업별 근거가 부족하다.
11. Future Directions
제안: 설명 없음·읽기·시각적 편집·실행에 연결된 편집을 비교하라. 가정 반영률, 오류 수정률, 결과 정확도, 통제감, 작업 시간을 측정한다. 실제 변경 경로가 끊긴 모의 조건을 포함해, 통제감을 키우는 시각 효과만으로 결과를 설명할 수 있는지 반증하라.
T05. AI와의 장기 관계·애착·웰빙
1. Definition
AI companionship은 사용자가 AI를 반복적으로 정서적·사회적 상호작용의 대상으로 사용하는 현상이다. 애착, 공감 지각, 정서적 의존, 문제적 사용, 인간관계 대체는 서로 다르다. 애착이 증가했다는 결과를 곧바로 웰빙 개선이나 손상으로 번역하지 않는다.
2. Problem Definition
언제든 응답하는 AI는 지지를 제공할 수 있지만, 어떤 사용자에게는 인간관계·독립 판단과의 관계가 달라질 수 있다. 문제는 누가, 어떤 상호작용을, 얼마 동안 사용했을 때 어떤 변화가 생기는지를 구분하는 것이다. 평균 만족도만으로는 개인별 차이를 놓친다.
3. Core Concepts
사회적 현존감은 상대가 함께 있다는 지각, 의인화는 인간적 특성의 귀속, 정서적 의존은 감정 조절을 AI에 의탁하는 경향이다. 종단 연구는 시간 경과를 관찰하지만 그 자체로 인과 연구는 아니다. 사용 강도와 결과를 함께 관찰할 때 역인과와 공통 원인을 고려해야 한다.
4. Introduction
P13은 4주간 상호작용 방식·대화 주제를 배정했고, P14는 여러 제품에 걸친 5주 탐색 연구를 수행했다. 이들은 장기적 관계를 단회 만족도 밖에서 다루지만, 수개월·수년에 걸친 관계 변화를 대표하지는 않는다. P13, P14
5. Motivation and Background
개인화·기억·음성은 관계의 연속성을 높일 수 있다. 그러나 기능 변화와 사용자의 삶의 변화가 함께 일어나면 무엇이 결과를 바꿨는지 분리하기 어렵다. 단순한 사용시간 대신 사용 목적, 상호작용 내용, 인간관계와의 병행 여부를 함께 기록할 필요가 있다.
6. Challenges
정서적 맥락에서 사용을 무작위로 강제하거나 중단시키는 연구는 부담을 유발할 수 있다. 탈락한 참여자의 결과가 가장 나쁠 가능성도 있어 완료자만 분석하면 편향된다. 위험을 측정한다는 이유로 원문 대화를 과도하게 수집하지 않는 설계도 중요하다.
7. Research Questions
문헌은 모달리티·대화 주제·사용 패턴과 심리사회적 결과의 관계를 묻는다. 제안 질문은 ‘상호작용의 개인화 경계와 기억 삭제 권한이 관계 경험·자기결정감을 어떻게 바꾸는가’다. AI와 대화하는 것 자체의 효과와 특정 설계 요소의 효과를 분리해야 한다.
8. Approaches (Methods)
문헌 근거: P13의 981명 연구에서는 배정 조건의 유의한 효과를 검출하지 못했고, 자발적 사용량은 불리한 결과와 연관됐다. 사용량은 무작위화되지 않았으며 비사용 대조군도 없었다. P14의 149명 연구는 적극 사용 권장군의 애착·공감 지각 변화를 보고하지만, 해당 설계를 무작위 실험으로 가정하지 않는다.
9. Key Applications
문헌의 직접 맥락은 일상 대화와 사회·정서적 지원 탐색이다. 장기 개인 비서나 학습 동반자로의 확장은 제안이다. 이 보고서는 임상적 효능이나 치료 대체를 주장하지 않는다. 일반적인 지원 경험과 의료적 결과는 다른 연구 설계와 근거를 요구한다.
10. Open Problems
사용량 증가가 의존의 원인인지, 어려움을 겪는 사용자의 선택인지 불분명하다. 제품 업데이트가 장기 연구의 처치 자체를 바꾸기도 한다. 단회 실험 P12의 사회적 판단 결과를 장기 애착의 인과 기전으로 직접 연결하지 않는다.
11. Future Directions
제안: 자발적 사용과 인터페이스 조건을 구분해 기록하고, 장기 추적에 중도탈락·제품변경·생활 사건을 포함하라. 관계 유지의 질과 사용자의 선택권을 주요 결과로 두며, 단순 사용시간 감소를 무조건 개선으로 정의하지 않는다. 개인정보 최소화와 참여 중단권을 설계에 포함한다.
T06. 창의적 주도권·소유감·기여 추적
1. Definition
창의적 주도권은 문제 설정·대안 탐색·선택·수정에 실질적으로 관여하는 능력이다. 심리적 소유감은 ‘내 작업’이라는 경험이고, 저자성은 기여의 귀속이며, 법적 권리는 별도의 규범 체계다. Provenance는 결과가 만들어진 경로의 기록으로, 어느 하나를 자동 보장하지 않는다.
2. Problem Definition
AI가 보고서·이미지·아이디어를 대부분 만든 뒤 사용자가 고르면, 결과는 좋아도 사용자는 자신이 기여했다고 느끼지 못할 수 있다. 반대로 작은 편집에도 높은 소유감을 느낄 수 있다. 연구 문제는 산출물 품질, 아이디어 다양성, 주도권, 책임 귀속을 함께 개선할 조건을 찾는 것이다.
3. Core Concepts
아이디어의 독창성과 유용성, 개인 간 다양성과 개인 내 탐색, 소유감과 기여량을 나눈다. P08은 Person·Process·System 차원의 소유감 틀을 제안한다. 이 틀은 설계·인터뷰 어휘로 유용하지만 법적 소유권의 판정법은 아니다. P08
4. Introduction
P10은 공동창작 시스템을 창작 단계·주도성·통제 등으로 분류한다. P09는 모델이 아이디어를 다시 쓰는 방식과 인간의 정교화를 돕는 방식을 비교한다. ‘AI 사용 여부’보다 ‘어떻게 함께 만드는가’가 중요한 조작변수라는 것이 두 문헌을 연결한 해석이다. P09, P10
5. Motivation and Background
창작 도구가 완성도를 높여도 여러 사람의 결과가 비슷해질 수 있다. 또한 사용자가 선택 이유를 설명하지 못하면 후속 수정과 책임 있는 채택이 어려워질 수 있다. 생성량을 늘리는 방식과 사람의 발상·성찰을 촉진하는 방식의 차이를 검증해야 한다.
6. Challenges
창의성 평가자는 취향과 전문성이 다르다. 임베딩 거리가 멀다고 의미 있는 다양성이 보장되지 않는다. 기여 추적도 수정 문자 수만으로는 아이디어 전환을 포착하기 어렵다. 객관적 산출물 평가와 자기보고 소유감을 분리하는 것이 출발점이다.
7. Research Questions
문헌은 상호작용 방식이 품질·다양성·소유감을 어떻게 바꾸는지 묻는다. 제안 질문은 ‘선택 이유와 대안 폐기 이유를 짧게 기록하면, 결과를 만드는 부담을 크게 늘리지 않으면서 기여 인식과 이후 무보조 수정 능력이 유지되는가’다.
8. Approaches (Methods)
문헌 근거: P09는 초기 분석 486명과 별도 검증 640명을 보고한다. 질문 중심 방식의 소유감 장점과 품질 개선을 관찰했지만, 검증 연구에서 다양성 우위는 모든 비교에 유지되지 않았다. P08은 초록과 본문의 참여자 수가 달라 수치를 확정하지 않았다. 버전·표본 대조가 필요한 이유다.
9. Key Applications
문헌 맥락은 아이디어 생성·예술·설계·글쓰기다. 연구기획 적용으로 목표형상 후보의 대안 탐색과 최종 선택 이유 기록을 제안한다. AI가 생성한 문장과 연구자가 추가한 판단을 구분하는 기록은 책임 설명에 도움을 줄 수 있으나 그 효과는 미검증이다.
10. Open Problems
P10의 설계 경향을 모든 창작 과업의 인과법칙으로 확대할 수 없다. 장기적인 창의적 자기효능감, 팀 내 기여의 인정, 출처 표시로 인한 평가 변화도 남은 문제다. AI 관여 공개가 언제 도움이 되는지는 과업·공동체 규범에 따라 달라질 수 있다.
11. Future Directions
제안: 질문형 협업, 직접 재작성, 일반 대화, AI 비사용 조건을 비교하고 독립 평가자의 품질·다양성 평가를 결합하라. 일정 기간 뒤 AI 없이 수정하는 과제로 역량 유지를 본다. 선택 근거 기록이 소유감만 높이고 실제 기여·전이 성과를 바꾸지 못하면 제한된 효과로 보고한다.
T07. 시스템 수준의 협업 지능과 운영 보장
1. Definition
HAIS는 인간·AI가 공유 과업 루프에서 정보를 교환하고 시스템 목표에 영향을 주는 결합체라는 P26의 정의를 출발점으로 삼는다. 분석 단위는 모델이나 인터페이스 하나가 아니라 사람·도구·과업·환경의 연결이다. 이는 유용한 관점 제안이며 모든 분야에 확립된 표준 명칭은 아니다. P26
2. Problem Definition
개별 에이전트가 올바르게 응답해도 공유 문서 버전이 다르거나 인간 승인 상태가 잘못 전달되면 시스템은 실패할 수 있다. 문제는 권한 배분·정보 전달·상태 변화·책임을 하나의 운영 구조에서 일관되게 관리하는 것이다.
3. Core Concepts
공유 상태는 모두가 같은 데이터베이스를 쓴다는 뜻을 넘어, 현재 목표·승인·버전의 일치 여부를 포함한다. Runtime assurance는 실행 중 제약 준수를 감시하고 필요한 조치를 취하는 구조다. Traceability는 결과에서 입력·행동·승인으로 거슬러 올라갈 수 있는 성질이다.
4. Introduction
P26은 공유 과업 루프·권한 배분·적응·거버넌스를 묶어 설명한다. P01은 위임의 구조, P16은 계획 개입, P06은 상호작용 기록을 제공한다. 이들을 결합한 통합 운영체계는 본 보고서의 설계 제안이며, 해당 논문들이 이미 하나의 검증된 시스템을 구현했다는 뜻은 아니다.
5. Motivation and Background
실무 시스템의 오류는 모델 출력뿐 아니라 복사·전달·도구 호출·문서 갱신에서 발생할 수 있다. 연구기획에서는 근거의 기준일이 달라지거나 승인 전 초안이 최종본으로 쓰이는 상황을 생각할 수 있다. 따라서 운영 절차가 연구 성과의 일부가 되어야 한다는 해석이 가능하다.
6. Challenges
사람의 의도와 피로를 추정하는 모델 자체가 불확실하다. 시스템이 그 추정에 따라 권한을 바꾸면 새로운 오류 경로를 만든다. 여러 주체가 서로 적응할 때 어떤 변화가 성과에 기여했는지 식별하기 어렵고, 책임 배분도 기술 설계만으로 끝나지 않는다.
7. Research Questions
문헌은 전체 시스템의 성과·안전·조정을 어떻게 함께 평가할지 묻는다. 제안 질문은 ‘최종 결과뿐 아니라 권한 이전과 실패 복구를 기록하는 구조가, 모델을 고정해도 시스템 신뢰성을 개선하는가’다. 개인 능력의 향상과 조직 절차의 효과를 분리해야 한다.
8. Approaches (Methods)
문헌 근거: P26은 Perspective로서 대표 연구를 통합하며 전수 리뷰가 아니라고 명시한다. P06은 HAIDL/HAIDL-X로 맥락·요청·응답·피드백·메타데이터를 구조화한다. 이번 확인은 저자기관 초록에 한정되므로 재생 정확도나 교육적 효과를 수치로 주장하지 않는다. P06
9. Key Applications
문헌이 제시하는 범위에는 디지털·물리·신경 인터페이스와 과학 워크플로가 있다. 이 보고서의 적용 제안은 연구기획 협업 플랫폼이다. 목표·근거·초안·검토·공개 상태를 연결하고, 각 상태의 권한과 유효 버전을 명시한다.
10. Open Problems
로그가 풍부해도 중요한 상태를 기록하지 않으면 책임 추적에 실패한다. 반대로 모든 데이터를 보존하면 개인정보와 조직정보의 노출 부담이 커진다. 완전한 감사 가능성, 비용, 정보 최소화 사이의 설계 조건을 실제 과업에서 검증할 필요가 있다.
11. Future Directions
제안: 정보 버전 불일치·승인 누락·도구 실패를 주입한 모의 워크플로에서 시스템을 시험하라. 완료율뿐 아니라 위반 탐지, 복구 성공, 사람이 이해할 수 있는 감사 기록을 평가한다. 기술적 성과와 제도적 책임의 경계도 결과에 명시한다.
T08. 문화·개인차·정신 모델
1. Definition
정신 모델은 사용자가 AI가 무엇을 할 수 있고 어떻게 실패할지를 설명·예측하는 내부 이해다. AI에 대한 호감이나 신뢰 점수와 동일하지 않다. 문화는 국적 하나로 환원하지 않으며 언어·규범·경험·전문성·상황의 영향을 함께 고려한다.
2. Problem Definition
같은 AI 설명을 보고도 사용자는 ‘전문가의 판단’, ‘검색 요약’, ‘확률적 제안’으로 다르게 이해할 수 있다. 기능이 같아도 기대가 달라지면 오류 대응이 달라진다. 문제는 사용자 이해의 차이를 측정하고 특정 집단에 유리한 설계를 보편적 최선으로 오인하지 않는 것이다.
3. Core Concepts
기대 정합성은 시스템의 실제 능력과 사용자의 기대가 맞는 정도다. 정신 모델 정확도는 예측 과제로 측정할 수 있지만 그것만으로 사회적 의미와 관계 경험을 포착하지는 못한다. 집단 간 설문 비교에는 번역과 측정 동등성 검증이 필요하다.
4. Introduction
P19는 정신 모델 연구의 개념·측정 이질성을 정리한다. P20은 독일·중국 편의표본의 AI 기대를, P21은 미국 내 사회방언 단서가 의존·지각에 미치는 영향을 다룬다. 세 연구의 대상은 다르며 이를 하나의 ‘문화 효과’로 통합 계산하지 않는다. P19, P20, P21
5. Motivation and Background
개인화가 사람과 비슷하게 말하게 하는 데 그치면 기대만 바꿀 수 있다. 사용자는 친근한 말투를 전문성으로 해석하거나 반대로 신뢰하기 어려운 단서로 볼 수 있다. 따라서 언어적 유사성, 실제 이해, 올바른 의존이 같은 방향으로 변하는지 확인해야 한다.
6. Challenges
국가 비교에서 연령·교육·AI 경험·모집 경로가 섞일 수 있다. 인터페이스 번역의 차이가 문화 차이처럼 보일 수도 있다. 소수 집단의 표현을 일률적으로 모방하는 설계는 구성원 내 차이를 가릴 수 있으므로 사용자 선택과 맥락을 함께 분석해야 한다.
7. Research Questions
문헌은 AI를 이해하는 틀과 표현 단서의 효과를 묻는다. 제안 질문은 ‘사용자가 선택한 설명 형식이 연구자가 추정한 문화적 맞춤보다 오류 예측과 정오답 수용을 더 잘 지원하는가’다. 국가·집단 이름보다 실제 사용자의 기능 이해를 측정한다.
8. Approaches (Methods)
문헌 근거: P19의 검토 대상은 52개 연구이고 검색일은 2024년이므로 최신 모델 사용자의 현재 인식을 직접 대표하지 않는다. P20은 두 나라의 소규모 편의표본을 다루며 LLM 협업 실험이 아니다. P21은 영상 QA에서 사회방언·표준영어의 제안 채택과 지각을 비교했다. 개인화의 이점을 자동 가정할 수 없음을 시사한다.
9. Key Applications
직접 연구 맥락은 AI 미래 인식, 언어 단서, 사용자 기대다. 한국어 연구기획 도구에서는 전문 용어의 설명 수준을 사용자가 고르게 하는 적용을 제안한다. 영어 원어를 많이 표시하는 것과 개념을 정확히 이해하는 것은 같은 목표가 아니다.
10. Open Problems
한국의 연구기관·직무·세대별 결과가 충분히 확보됐다고 볼 수 없다. 선호하는 설명과 실제 오류 탐지에 유용한 설명이 다를 수 있다. 한 번의 사전 교육으로 형성한 정신 모델이 모델 업데이트 후에도 유지되는지도 불명확하다.
11. Future Directions
제안: 자기 선택형·자동 개인화·일반 설명을 비교하고, 기능 예측·오류 예상·실제 개입을 함께 측정하라. 번역·역번역과 인지 인터뷰로 척도를 검토하고 집단별 측정 동등성을 확인한다. 집단 차이가 사라지거나 역전되는 조건도 함께 보고한다.
T09. 멀티모달·신체화된 상호작용
1. Definition
멀티모달 HAI는 텍스트·음성·영상·제스처 등 여러 채널을 통해 인간과 AI가 정보를 주고받는 상호작용이다. Embodied HAI는 공간·신체·행동의 맥락을 포함한다. HRI에서는 사회적으로 자연스러운 대화와 물리적으로 안전한 행동이 서로 다른 평가 대상이다.
2. Problem Definition
사용자의 ‘저것을 옮겨라’는 지시는 시선·공간·시간에 의존한다. AI가 문장을 이해해도 가리키는 물체나 행동 시점을 잘못 잡을 수 있다. 연구 문제는 모달리티 간 오해를 발견하고 행동이 확정되기 전에 확인·수정할 방법을 찾는 것이다.
3. Core Concepts
Grounding은 지시를 상황의 대상·행동에 연결하는 과정이다. 공동 주의, 시간 동기화, 모달리티 불일치, 상황 인식, 행동 복구가 핵심이다. 더 많은 센서를 사용했다는 사실만으로 더 정확한 상호작용이 보장되지는 않으며, 채널별 오류가 결합되는 방식을 봐야 한다.
4. Introduction
P07은 LLM 기반 HRI 연구 86편을 정리하고 실험·평가 선택의 다양성을 보고한다. P04의 공동 이해와 P05의 화면 기반 협업 데이터는 물리 로봇 밖에서도 상황 정합성이 중요한 문제임을 보여주는 인접 근거다. 이를 곧바로 로봇 안전의 검증 결과로 전이하지 않는다. P07
5. Motivation and Background
언어 인터페이스는 비전문가의 접근성을 높일 수 있지만, 물리 행동의 제약을 말로 모두 표현하기 어렵다. 모델이 유창하게 확인했다고 답하는 것과 실제로 대상을 올바르게 식별한 것은 다르다. 실행 전 상태 확인과 실행 중 복구를 별도로 설계할 필요가 있다.
6. Challenges
영상은 가려짐과 촬영 시점에, 음성은 환경 소음과 발화 중첩에 영향을 받는다. 로봇에서는 사용자 개입의 지연도 중요하다. 실험실 과제에서 편안함을 느꼈다는 결과로 복잡한 현장에서의 신뢰성이나 안전을 주장할 수 없다.
7. Research Questions
문헌은 인간 중심 LLM–로봇 상호작용의 설계·평가 요소를 묻는다. 제안 질문은 ‘언어·시각 정보가 어긋날 때 시스템이 확인을 요청하는 정책이, 고정 주기 확인보다 같은 부담에서 실패를 더 줄이는가’다. 확인 빈도와 적절성을 분리해서 본다.
8. Approaches (Methods)
문헌 근거: P07은 문헌고찰이므로 직접적인 개입 효과 수치로 쓰지 않는다. P04는 공동 이해를 위한 조정 과제, P05는 영상·그래프·대화의 기여를 비교하는 평가 접근이다. P21의 영상 QA는 언어적 단서의 연구로, 물리적 신체화 연구와는 구별한다.
9. Key Applications
로봇 협업, 현장 지원, 멀티모달 작업 분석이 응용 범위다. XR 기반 공동 작업과 연구소 실험 보조는 확장 제안이며 이번 문헌에서 충분히 직접 검증했다고 보지 않는다. 시스템마다 언어 품질·지시 대상 정합성·행동 성공·사용자 부담의 기준선을 따로 설정한다.
10. Open Problems
사회적 자연스러움과 물리적 성능을 함께 측정하는 공통 절차가 부족하다. 과업의 길이, 로봇 신체, 모달리티, 사용자 경험이 달라 연구 간 숫자를 직접 비교하기 어렵다. 모달리티 누락 상황의 복구와 장기 적응도 지속적으로 검증해야 한다.
11. Future Directions
제안: 먼저 기록된 영상이나 시뮬레이션에서 지시–대상 불일치를 조작하라. 탐지·확인·복구 시간과 사용자 부담을 측정하고, 이후 필요한 경우 실제 장비로 검증 범위를 확장한다. 시뮬레이션 결과를 실물 안전 확보로 표현하지 않는다.
T10. 상호작용 데이터·평가·종단·현장 연구
1. Definition
상호작용을 데이터로 다룬다는 것은 요청·응답뿐 아니라 맥락·모델 버전·도구 행동·피드백·수용·수정·결과를 연결해 기록한다는 뜻이다. 대화 로그의 보존, 실행 재현, 판단 과정 설명은 서로 다른 수준의 목표다.
2. Problem Definition
보고서의 잘못된 결론이 모델의 오류인지, 오래된 자료인지, 사용자의 수정인지 알려면 결과에서 과정을 추적해야 한다. 그러나 원문 기록을 모두 남겨도 중간 도구의 상태가 없으면 재현되지 않을 수 있다. 문제는 최소한의 데이터로 유효한 검증·복구를 지원하는 구조를 찾는 것이다.
3. Core Concepts
계보는 결과의 유래, 재생은 기록된 과정을 다시 살펴보는 기능, 재실행은 계산을 다시 수행하는 기능이다. 확률적 모델과 외부 웹페이지는 재실행 결과를 바꿀 수 있다. 품질 평가에는 과정 지표와 최종 산출물 지표가 모두 필요하며, 둘을 같은 라벨로 누수시키지 않아야 한다.
4. Introduction
P06은 상호작용 객체의 형식화를, P05는 채팅 밖의 실제 행동까지 포함한 워크플로를 제시한다. P18은 기대 생산성과 실제 완료시간의 차이를 측정한다. 이들을 연결하면 무엇을 기록하고 무엇을 평가할지 함께 설계해야 한다는 연구 방향이 나온다.
5. Motivation and Background
모델이 스스로 만족스러운 결과라고 평가해도 사용자가 그 결과를 다른 소프트웨어에서 고쳐 쓰는 과정은 사라질 수 있다. 반대로 사람이 결과를 수정했다는 사실만으로 원래 제안이 쓸모없었다고 할 수도 없다. 실제 사용·수정·폐기의 흔적을 보존하는 평가가 필요하다.
6. Challenges
한 사람의 여러 단계는 독립 표본이 아니다. 같은 프로젝트가 학습·평가 분할에 걸치면 과장된 일반화 성능이 나온다. 화면 녹화에는 민감정보가 섞일 수 있고, 자동 라벨은 오류를 포함한다. 참여자·과업·조직 수준의 분할과 최소 수집 원칙을 함께 정해야 한다.
7. Research Questions
문헌은 전문 워크플로를 모델이 이해·평가할 수 있는지, 상호작용을 어떻게 구조화할지 묻는다. 제안 질문은 ‘대화 로그에 채택·수정·권한 상태를 추가하면, 동일한 저장·시간 예산에서 실패 원인 복원과 수정 필요성 예측이 개선되는가’다.
8. Approaches (Methods)
문헌 근거: P18은 2025년 초 도구와 숙련 기여자의 성숙 저장소 작업에서 AI 허용 시 시간이 늘었다고 보고했다. 현재 모든 모델·개발자에 일반화하지 않는다. P05는 실제 행동과 전문가 평가를, P24는 비판적 관여 척도를 제공한다. 성능·자가보고·행동은 교차 검증 자료이지 상호 대체물이 아니다.
9. Key Applications
검증 맥락에는 전문 소프트웨어 작업, 코딩, 과학 노트북, 학습 지원이 있다. 연구기획의 근거 등록부·보고서 변경 이력·검토 기록 연결은 적용 제안이다. 공개 가능한 문서와 비공개 검토 자료를 분리하고, 필요 이상의 개인 대화를 배포 데이터에 넣지 않는다.
10. Open Problems
기록이 많을수록 평가가 좋아진다는 가정은 검증되지 않았다. 주석 비용, 모델 버전 변화, 조직별 워크플로 차이가 일반화를 제한한다. 같은 작성자가 만든 평가 기준으로 그 작성자의 산출물만 평가하면 평가자 편향을 발견하기 어렵다.
11. Future Directions
제안: 공개 라이선스를 확인한 데이터로 로그 전용·로그+행동·구조화 계보를 비교한다. 참여자·과업별 분할, 시간순 외부 검증, 라벨 블라인드 평가를 적용하라. 이후 제한된 현장 연구에서 재작업 시간과 오류 복구를 측정한다. 기록 비용이 이득을 상쇄하면 적용 범위를 좁혀야 한다.
주제 간 종합 비교
실제 문헌이 지지하는 긴장 관계와 아직 가설인 관계
대표 방법의 실험 조건과 해석 경계
단기·중기 연구 경로 — 분석자의 제안
아래 기간은 연구 착수 이후의 상대 기간이며 달성 보장이나 공식 일정이 아니다. 사용자 연구 승인·데이터 확보에 따라 달라진다.
연구 의제: 검증 가능성과 반증을 중심으로
다음 5개는 문헌의 한계를 연결한 신규 제안이다. 이번 검색으로 학술적 최초성을 확정하지 않았다. 기존 연구의 표현만 바꾼 주제가 되지 않도록, 프로토콜 사전등록 전에 가장 가까운 논문·공식 코드·최근 후속연구를 추가 대조해야 한다.
R1. 되돌리기 비용을 고려한 위임 경계와 확인 시점
문제: 에이전트의 모든 행동에 확인을 요구하면 부담이 크고, 마지막에만 확인하면 이미 돌이키기 어려운 행동이 완료될 수 있다. 사용자가 의미 있는 선택을 할 수 있는 지점을 평가 단위로 만든다.
최소 검증: 먼저 합성 시나리오에서 확인 위치·횟수·오류 난도를 고정해 조작을 검증한다. 사용자 실험은 그 다음이다. ‘안전한 행동만 있는 조건’도 포함해 불필요한 확인 비용을 측정한다.
R2. 상호작용 계보로 협업 실패와 수정 필요성을 설명하기
문제: 대화만으로는 AI의 제안이 어디서 채택·수정·폐기됐는지 알기 어렵다. 결과의 출처와 실제 작업의 변화를 연결하는 최소 데이터 구조를 연구한다.
최소 검증: 1) 데이터 이용 조건 확인 → 2) 비식별 소규모 표본으로 스키마 검증 → 3) 합성 오류에 대한 원인 복원 → 4) 공개 워크플로의 외부 검증 순서다. 현재 패키지는 데이터 사용 허가나 라이선스 검토를 대신하지 않는다.
R3. 질문형 공동창작과 선택 근거 기록이 무보조 역량을 보존하는가
문제: 산출물의 완성도와 사람이 다시 혼자 문제를 풀 수 있는 능력은 다르다. 창작 과정의 선택을 기록하는 것이 장기 역량에 도움이 되는지 검증한다.
R4. 문화적 맞춤보다 사용자가 고른 설명 방식이 유효한가
문제: 언어·집단에 따른 자동 개인화가 실제 이해와 적절한 의존을 높이는지는 확실하지 않다. 사용자의 명시적 선택과 자동 추정의 차이를 검증한다.
R5. 장기 개인 에이전트의 기억 범위와 주도권의 변화
문제: 지속 기억은 편의를 제공하지만 사용자 목표가 바뀌었을 때 이전 선호가 계속 작동할 수 있다. 기억의 개인화 효과와 현재 선택권을 함께 평가한다.
비교와 우선순위
점수의 정밀도를 가장하지 않도록 정성 비교를 사용한다. ‘기여’는 잠재력 평가이고, 논문 채택 가능성의 예측이 아니다.
추천: R2는 공개 데이터의 이용 조건과 실제 제공 필드를 먼저 확인하는 착수 과제로, R1은 인과적 사용자 실험을 갖춘 후속 과제로 추천한다. 초기 파싱·질의·통계·모의 환경은 Apple Silicon CPU/MPS에서 수행하는 구성을 제안한다. 신규 모델 대규모 학습이나 외부 GPU/API 사용을 전제로 하지 않는다. 실제 인터페이스의 모델 효과를 검증할 때는 로컬 모델·출력 재생·시뮬레이션의 구분을 명시해야 한다.
공통 사전등록·분석 원칙
사람 대상 실험은 승인된 연구계획·동의·보상·중단권·개인정보 최소화·필요한 기관 심의를 갖춘 뒤 수행한다. 표본 수는 관행적 ‘30명’으로 정하지 않는다. 파일럿으로 결과변수 분산·참가자/과업 내 상관·탈락 가능성을 추정하고, 사전 정의 최소 의미 효과·주 검정·다중비교·검정력을 반영한 시뮬레이션으로 산정한다. 파일럿 결과를 확증 실험의 효과로 재사용하지 않는다.
각 후보는 주 지표 하나와 핵심 대비를 먼저 고정한다. 최소 의미 효과, 비열등 한계, 중단·제외·결측 규칙을 결과를 보기 전에 정한다. 여러 가설은 Holm 보정 등 계획한 보정을 적용한다. 통계적 유의성만으로 실용적 유용성을 선언하지 않으며, 효과 크기와 불확실성 구간·시간·부담을 함께 보고한다. AI 기반 평가자는 독립 인간 평가와 대조하고, 모델별 프롬프트·정보·시간 예산을 맞춘다.
실패 또는 불확실한 결과도 공개한다. ‘유의하지 않음’을 동등함으로 해석하지 말고, 신뢰구간이 최소 의미 효과를 배제하는지 확인한다. 연구 아이디어별 판정은 supported / not_supported / inconclusive로 구분할 수 있지만, 실제 데이터를 얻기 전에는 모두 미검증이다.
첨부 자료의 출처·수치 검증 메모
Human–AI Interactions as First-Class Data와 arXiv:2610.40006은 저자기관 ISI에서 실재성과 내용을 확인했다. 직접 arXiv 접근 실패를 논문 부재로 해석하지 않았다.- HRI 서베이 arXiv:2602.15063은 실제 제목·제출일과 CHI 정식본 연결을 확인했다. 일반적인 ‘LLM 시대 HRI’라는 축약 제목을 실제 논문 제목으로 인용하지 않았다.
- HAIS 논문은 2026-10-26 온라인 출판을 확인했다. 저널의 Review 분류와 저자가 밝힌 Perspective의 범위를 함께 기록했다.
- 2024년 XAI 서베이는 기간 밖 배경 후보로 구분하고 26편의 최신 문헌 수에서 제외했다. HCAI Radar와 CHI proceedings 목록 자체는 개별 연구의 실증 근거로 세지 않았다.
- Six Grand Challenges 논문 DOI는 실재하는 2026년 논문으로 확인했지만, 본 보고서의 세부 효과 주장에 필요하지 않아 26편의 핵심 목록에서는 제외했다.
- P08은 초록·본문의 표본 수가 상충한다. P09는 모집과 최종 분석 표본을 구분했다. P12는 프리프린트와 정식본의 실험 수·표본·저자 구성이 다르므로 정식본을 우선했다.
- P24는 검색 요약의 표본 1,365명과 최신 v2 초록의 1,341명이 달랐다. 최신 확인 버전의 수치를 채택하되 원 데이터 재분석은 하지 않았다.
- 첨부의 학술지 영향력 수치·합격률·심사기간은 검증된 연구 결과와 무관하므로 재사용하지 않았다.
조사 방법과 재현 범위
검색일은 2026-11-08이다. 웹 검색의 두 검색 채널과 arXiv·출판사·저자기관·ACL Anthology·PubMed를 활용했다. 대표 검색식은 2025 human AI collaboration agency delegation agents CHI paper, 2026 human AI agent control delegation CHI arxiv, 2025 AI sycophancy overreliance trust calibration paper CHI, 2025 AI companionship randomized longitudinal study, 2025 human AI creative ownership paper, cross-cultural mental models AI 2025 2026, Human-AI Interactions as First-Class Data, Kolab Benchmarking arxiv, Interactive Reasoning Hippo arxiv 등이다. 후보 제목·ID·DOI로 재검색하고 관련 논문을 추적했다.
포함 기준은 HAI의 인간 행동·인지·통제·협업·평가와 직접 관계가 있고, 기간 안의 공개 근거와 내용이 확인되는 연구다. 제외 대상은 중복 버전, 연구 내용이 없는 홍보·동향 목록, 기간 밖 문헌, 출처를 확인할 수 없는 수치다. 모델 성능만을 다룬 논문은 인간 상호작용 문제와 직접 연결되는 경우에만 선정했다.
검색 결과 전체에 대한 독립 이중 선별이나 완전한 PRISMA 흐름도를 수행하지 않았다. 후보 발견 건수와 전수 제외 건수를 사후 추정하지 않는다. 모든 DOI의 HTTP 응답 성공이나 모든 원문의 전체 내용 확인을 주장하지 않는다. 근거표는 독자가 확인 범위와 미확인 항목을 추적하기 위한 자료다.
다음 조사에서 우선 보완할 공백
한국어·한국 조직 맥락의 실증연구, 수개월 이상 종단 연구, 실제 로봇의 적시 개입·복구, XR 공동 작업, 상호작용 데이터의 공개 라이선스·민감정보 처리 조건을 우선 보완한다. 문헌 수를 늘리는 것보다 이 공백을 줄이는 근거를 우선한다.
참고문헌과 확인 범위
P01. Intelligent AI Delegation
Nenad Tomašev; Matija Franklin; Simon Osindero. arXiv (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-02-12. 확인 범위: 초록·본문 일부; 위치: §2;§4;§5.
P02. When AI Agents Act on Our Behalf: A Taxonomy of Human-Agent Interaction Failure
Canwen Wang; Qing Xiao; Haiyi Zhu; Hong Shen. arXiv (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-10-30. 확인 범위: 방법·결과·한계 절 확인; 위치: §3;§4;§5.3;§6. HTML의 2018/DOI 예시값은 템플릿 잔재; arXiv 이력 기준
P03. Avatar Intelligence: Amplifying Human Agency Through Persistent Personal Agents
Zheng Wu 외. arXiv (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-11-02. 확인 범위: 초록·서지; 위치: Abstract.
P04. A Benchmark to Assess Common Ground in Human-AI Collaboration
Christian Poelitz; Finale Doshi-Velez; Siân Lindley. arXiv (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-02-24. 확인 범위: 초록·본문 구조; 위치: Abstract;§4;§5.
P05. Kolab: Benchmarking Human-Agent Collaboration in Long-Horizon Workflows
Shirley Anugrah Hayati 외. arXiv (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-10-15. 확인 범위: 방법·결과 절 확인; 위치: §3;§4;§5;Table 6. 결과값은 본문에 확인한 조건 밖으로 일반화하지 않음
P06. Human--AI Interactions as First-Class Data: A Formal Interaction Model and Runtime for Explainable AI Collaboration
Michela Taufer 외. arXiv / USC ISI 저자기관 (2026); 프리프린트. 원문/공식 출처.
공개 이력: 2026-10-29. 확인 범위: 저자기관 초록·arXiv 검색 서지; 위치: Abstract. arXiv:2610.40006 직접 접근 실패;저자기관에서 제목·저자·내용 교차확인
P07. How Do We Research Human-Robot Interaction in the Age of Large Language Models? A Systematic Review
Yufeng Wang; Yuan Xu 외. CHI 2026 / arXiv (2026); 정식본 DOI 연결 확인. 원문/공식 출처.
공개 이력: 2026-02-13. 확인 범위: 초록·본문 구조; 위치: arXiv:2602.15063;§3–§5.
P08. A Paradigm for Creative Ownership
Tejaswi Polimetla; Katy Ilonka Gero; Elena Leah Glassman. arXiv (2025); 확인한 버전은 프리프린트 v2. 원문/공식 출처.
공개 이력: 2025-05-21. 확인 범위: 초록·방법 절 확인; 위치: v2 Abstract;§4;§5.1. 2025-09-11 v2;표본 수를 확정값으로 본문에 사용하지 않음
P09. Partnering with Generative AI: Experimental Evaluation of Human-Led and Model-Led Interaction in Human-AI Co-Creation
Sebastian Maier; Manuel Schneider; Stefan Feuerriegel. CHI 2026 (2026); 정식 출판. 원문/공식 출처.
공개 이력: 2025-10-27. 확인 범위: 방법·결과·검증 절 확인; 위치: arXiv:2510.23324v3;§4;§5;§6;Table 4. 2026-03-09 v3;초기 모집502명과 최종분석486명 구분
P10. A Systematic Review of Human-AI Co-Creativity
Saloni Singh; Koen Hindriks; Dirk Heylen; Kim Baraka. arXiv (2025); 프리프린트;정식본 연결 추가확인 필요. 원문/공식 출처.
공개 이력: 2025-06-26. 확인 범위: 초록·서지; 위치: Abstract. v2 2025-06-27;관련 DOI 10.1145/3834857의 출판 상태는 미확정
P11. Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies
Sunnie S. Y. Kim; Jennifer Wortman Vaughan; Q. Vera Liao; Tania Lombrozo; Olga Russakovsky. CHI 2025 (2025); 정식 출판. 원문/공식 출처.
공개 이력: 2025-02-12. 확인 범위: 방법·결과·논의 절 확인; 위치: arXiv:2502.08554v1;§4.1;§4.2;§4.3;§5.
P12. Sycophantic AI decreases prosocial intentions and promotes dependence
Myra Cheng 외 (정식본 기준). Science (2026); 정식 출판. 원문/공식 출처.
공개 이력: 2025-10-01. 확인 범위: 출판사 구조화 초록·서지; 위치: Structured Abstract: Rationale/Results. arXiv:2510.01395 v1은 2개 실험1604명;정식본2026-03-26과 혼합 금지
P13. How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study
Cathy Mengying Fang 외. arXiv / MIT Media Lab (2025); 프리프린트 v2. 원문/공식 출처.
공개 이력: 2025-03-21. 확인 범위: 본문 결과·한계 절 확인; 위치: v2 Abstract;User Characteristics;Limitations. 2025-10-02 v2;AI 사용 자체의 인과효과 연구로 기술하지 않음
P14. Longitudinal Study on Social and Emotional Use of AI Conversational Agent
Mohit Chandra 외. arXiv / Microsoft Research (2025); 프리프린트. 원문/공식 출처.
공개 이력: 2025-04-19. 확인 범위: 초록·서지; 위치: Abstract.
P15. Interactive Reasoning: Visualizing and Controlling Chain-of-Thought Reasoning in Large Language Models
Rock Yuren Pang 외. IUI 2026 (2026); 정식 출판. 원문/공식 출처.
공개 이력: 2025-06-30. 확인 범위: 방법·평가 절 확인; 위치: arXiv:2506.23678;§4;§5. 저자기관 페이지 June2025와 학회연도 혼동 금지:공식 IUI31회2026
P16. AIPOM: Agent-aware Interactive Planning for Multi-Agent Systems
Hannah Kim; Kushan Mitra; Chen Shen; Dan Zhang; Estevam Hruschka. EMNLP 2025 System Demonstrations (2025); 정식 출판·시스템 데모. 원문/공식 출처.
공개 이력: 2025-09-29. 확인 범위: 공식 초록·서지; 위치: Abstract;pp.85–96. arXiv:2509.24826
P17. The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers
Hao-Ping Lee 외. CHI 2025 (2025); 정식 출판. 원문/공식 출처.
공개 이력: 2025-04-25 (확인한 출판일;더 이른 저자공개일 미확정). 확인 범위: 저자기관 초록·출판 서지; 위치: Microsoft Research Abstract.
P18. Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity
Joel Becker; Nate Rush; Elizabeth Barnes; David Rein. METR / arXiv (2025); 연구 보고서·프리프린트. 원문/공식 출처.
공개 이력: 2025-07-10 (저자기관 보고서);arXiv 2025-07-12. 확인 범위: 방법 절·초록 확인; 위치: v2 Abstract;§2.1–2.3;§4.1. v2 2025-07-25
P19. Users’ mental models within human–AI interaction: a systematic scoping review
W. Bodamer; S. Schoenmakers; E. Nuñez Castellar 외. AI & Society (2026); 정식 출판. 원문/공식 출처.
공개 이력: 2026-05-16 (확인한 최초 출판일). 확인 범위: 방법·결과·논의 확인; 위치: §2;§3;§4;§5. 최초 프리프린트 존재 여부 미확정
P20. Charting cross-cultural AI perception: An exploratory study of expectations, risk-benefit trade-offs, and values in Germany and China
Philipp Brauner; Felix Blömker; Gian Luca Liehner; Luisa Vervier; Martina Ziefle. Acta Psychologica (2026); 정식 출판. 원문/공식 출처.
공개 이력: 2026-06-09 (공식 색인 온라인일). 확인 범위: PubMed 서지·초록;출판사 접근제한; 위치: PubMed PMID42263601 Abstract. 기간 경계와 더 이른 프리프린트는 추가확인 필요
P21. Not Like Us, Hunty: Measuring Perceptions and Behavioral Effects of Minoritized Anthropomorphic Cues in LLMs
Jeffrey Basoah 외. FAccT 2025 (2025); 정식 출판. 원문/공식 출처.
공개 이력: 2025-05-08. 확인 범위: 방법·초록 확인; 위치: arXiv:2505.05660v3;§4.1–4.2.
P22. Understanding the Affordances of Control in AI Reasoning for Human-AI Decision-Making
Jiwon Moon; Chien-Ming Huang; Ziang Xiao. CHI EA 2026 (2026); 정식 출판·확장초록. 원문/공식 출처.
공개 이력: 2026-04-13 (확인한 출판일). 확인 범위: 출판사 검색 색인의 초록·서지; 위치: ACM Abstract;Article707 pp.1–9. 더 이른 공개본 미확정
P23. Controlling AI Agent Participation in Group Conversations: A Human-Centered Approach
Stephanie Houde 외. IUI 2025 (2025); 정식 출판. 원문/공식 출처.
공개 이력: 2025-01-28. 확인 범위: 초록·서지; 위치: Abstract.
P24. Understanding Critical Thinking in Generative Artificial Intelligence Use: Development, Validation, and Correlates of the Critical Thinking in AI Use Scale
Gabriel R. Lau 외. Computers in Human Behavior Reports (2026); 정식본 연결 확인. 원문/공식 출처.
공개 이력: 2025-12-13. 확인 범위: 초록·서지; 위치: arXiv:2512.12413v2 Abstract. v2 2026-07-23;검색요약1365명과 상충하여 v2의1341명 채택
P25. Enhancing Critical Thinking in Generative AI Search with Metacognitive Prompts
Anjali Singh; Zhitong Guan; Soo Young Rieh. ASIS&T Proceedings 2025 / arXiv (2025); 학술대회 발표 표기 확인. 원문/공식 출처.
공개 이력: 2025-05-29. 확인 범위: 초록·서지; 위치: v3 Abstract. v3 2026-03-18
P26. Human–AI Systems: A System-Level Perspective on Collaborative Intelligence
Chao Shen; Hongxin Xie; Le Yang; Chenhao Lin; Bin Shi; Bo Dong; Qinghua Zheng. ENGINEERING Artificial Intelligence (2026); 정식 출판·Perspective. 원문/공식 출처.
공개 이력: 2026-10-26 (확인한 온라인 출판일). 확인 범위: 초록·도입·정의 절 확인; 위치: §1;§2.1–2.4. 저널 분류 Review와 별개로 저자가 Perspective라고 명시