# HAI 교차 주제 연구 제안 5개

작성일: 2026-11-08 (KST). 아래 내용은 **미검증 연구 제안**이다. 문헌의 공백을 연결한 후보이며 최초성·우수성·기대 효과를 확정하지 않는다. 실제 구현·모집·실험은 이번 작업에서 수행하지 않았다.

## R1. 되돌리기 비용을 고려한 위임 경계와 확인 시점

**문제:** 에이전트의 모든 행동에 확인을 요구하면 부담이 크고, 마지막에만 확인하면 이미 돌이키기 어려운 행동이 완료될 수 있다. 사용자가 의미 있는 선택을 할 수 있는 지점을 평가 단위로 만든다.

| 항목 | 설계 제안 |
|---|---|
| 가까운 선행연구 | [P01 Intelligent AI Delegation](https://arxiv.org/abs/2602.11865), [P02 상호작용 실패 분류](https://arxiv.org/abs/2611.00291), [P15 Hippo](https://doi.org/10.1145/3742413.3789091) |
| 구체적 차이 | 위임 원칙·실패 분류를 제시하는 데서 나아가, 같은 모델·과업·확인 횟수 아래 확인 위치의 인과효과를 검증 |
| 가설 | 되돌리기 비용·영향 범위 기반 확인은 고정 주기 확인보다 경계 위반을 줄이고, 작업시간 증가는 사전 정의 허용범위 안에 있음 |
| 시스템 | 권한 범위·유효기간·완료조건·철회 상태를 가진 위임 명세;실행 전·후 상태와 복구 경로 표시 |
| 비교군 | 최종 확인만 / 고정 주기 확인 / 영향·복구 비용 기반 확인;가능한 한 확인 횟수 또는 확인시간 예산을 일치 |
| 사용자·과업 | AI 사용 경험이 다른 성인 연구자·지식근로자;문헌검색→초안 수정→모의 공개 워크플로 |
| 데이터 | 공개 논문 메타데이터와 합성 업무 문서;실제 외부 게시·결제 없이 모의 도구에서 경계 위반을 주입 |
| 일차 지표 | 사전에 정의한 권한 경계 위반의 성공 방지율 |
| 보조 지표 | 적시 중단·복구 성공률, 최종 품질, 완료시간, 확인 부담, 통제감과 실제 통제의 차이 |
| 분석 | 참가자·과업의 교차 무작위 효과를 둔 이항 혼합모형;작업시간은 분포를 확인해 로그 변환 또는 강건한 구간 추정 |
| 반증·판정 | 위반 방지율 차이의 신뢰구간이 최소 의미 효과를 지지하지 않거나 시간 제약을 초과하면 핵심 가설 미지지;표본 부족은 판정 유보 |
| 구현 부담 | 중간:로컬 상태 기계와 모의 도구로 기능 검증 가능;본 검증은 인간 실험 필요 |
| 의의와 한계 | 통제감과 실행 가능한 통제를 구분;이상적인 오류 주입이 실제 배포 실패를 대표하는지 외부 검증 필요 |

**최소 검증:** 먼저 합성 시나리오에서 확인 위치·횟수·오류 난도를 고정해 조작을 검증한다. 사용자 실험은 그 다음이다. ‘안전한 행동만 있는 조건’도 포함해 불필요한 확인 비용을 측정한다.

## R2. 상호작용 계보로 협업 실패와 수정 필요성을 설명하기

**문제:** 대화만으로는 AI의 제안이 어디서 채택·수정·폐기됐는지 알기 어렵다. 결과의 출처와 실제 작업의 변화를 연결하는 최소 데이터 구조를 연구한다.

| 항목 | 설계 제안 |
|---|---|
| 가까운 선행연구 | [P06 HAIDL/HAIDL-X](https://www.isi.edu/results/publications/83757/human-ai-interactions-as-first-class-data-a-formal-interaction-model-and-runtime-for-explainable-ai-collaboration/), [P05 Kolab](https://arxiv.org/abs/2610.21109), [P26 HAIS](https://doi.org/10.2738/ENGAI.2026.0012) |
| 구체적 차이 | 맥락 보존이나 채택 예측을 넘어,동일 데이터 예산에서 권한·문서 버전·채택 관계가 실패 원인 복원에 주는 기여를 분리 |
| 가설 | 구조화 계보는 대화 로그 또는 단순 이벤트 로그보다 원인 복원 정확도를 높이며,사후 결과 라벨 없이도 수정 필요성을 예측 |
| 시스템 | 요청·근거·AI 기여·사람 수정·권한 상태·최종 산출물을 연결하는 버전 그래프와 질의 인터페이스 |
| 비교군 | 대화만 / 대화+평면 이벤트 / 버전·권한·채택 관계 그래프;저장량·노출 정보·질의 시간 예산 통제 |
| 사용자·과업 | 초기 단계는 공개·합성 워크플로;후속 단계에서 분석가가 오류 원인을 재구성하는 과업 |
| 데이터 | Kolab의 공개 범위·라이선스를 먼저 확인;부족한 권한 이벤트는 공개 원자료와 혼합하지 않고 별도 합성 집합으로 구성 |
| 일차 지표 | 블라인드 정답 기준에 대한 원인 복원 정확도 |
| 보조 지표 | 누수 없는 수정 필요성 macro-F1,근거 연결 정밀도,질의 p50/p95 지연,저장 오버헤드,사람 검토시간 |
| 분석 | 참여자·과업 단위 분할;프로젝트 중복 제거;paired bootstrap;구성요소 제거;여러 seed가 필요한 예측기는 최소3개 독립 실행 |
| 반증·판정 | 미래 행동·최종 라벨을 제거하면 성능 이득이 사라지거나,단순 시간정보만으로 같은 이득이 나면 핵심 구조의 기여 미지지 |
| 구현 부담 | 낮음~중간:CPU 기반 파서·SQLite·그래프 질의·통계 분석;영상 전체 추론은 초기 범위에서 제외 |
| 의의와 한계 | 사용자의 데이터관리·그래프 연구 경험과 연결 가능;기록되지 않은 인간 의도를 정답으로 복원했다고 주장하지 않음 |

**최소 검증:** 1) 데이터 이용 조건 확인 → 2) 비식별 소규모 표본으로 스키마 검증 → 3) 합성 오류에 대한 원인 복원 → 4) 공개 워크플로의 외부 검증 순서다. 현재 패키지는 데이터 사용 허가나 라이선스 검토를 대신하지 않는다.

## R3. 질문형 공동창작과 선택 근거 기록이 무보조 역량을 보존하는가

**문제:** 산출물의 완성도와 사람이 다시 혼자 문제를 풀 수 있는 능력은 다르다. 창작 과정의 선택을 기록하는 것이 장기 역량에 도움이 되는지 검증한다.

| 항목 | 설계 제안 |
|---|---|
| 가까운 선행연구 | [P09 인간 주도·모델 주도 공동창작](https://doi.org/10.1145/3772318.3791185), [P08 Creative Ownership](https://arxiv.org/abs/2505.15971), [P25 메타인지 질문](https://arxiv.org/abs/2505.24014) |
| 구체적 차이 | 즉시 품질·소유감 측정을 넘어,선택 이유·폐기 대안 기록의 추가 효과와 AI 없는 지연 전이를 분리 |
| 가설 | 질문형+선택 근거 기록은 질문형만 제공한 조건보다 지연 전이 품질을 높이며 즉시 품질은 사전 정의 비열등 한계 내 유지 |
| 시스템 | 후보 생성→인간 선택→선택·폐기 이유 한 문장→독립 수정;개입 횟수와 총시간 기록 |
| 비교군 | 직접 재작성 / 질문형 / 질문형+기록 / AI 비사용;조건 간 과업시간을 일치시키거나 시간을 결과로 명시 |
| 사용자·과업 | 성인 대학원생·연구자;기술기획 아이디어와 대중 설명문;사전 능력을 측정하고 과업 순서 상쇄 |
| 데이터 | 공개 기술 문제와 새로운 전이 문제;기관 비공개 사업 문서 사용 제외 |
| 일차 지표 | 일정 지연 후 AI 없이 수행한 전이 과제의 블라인드 품질 평가 |
| 보조 지표 | 즉시 품질·다양성·소유감·선택 이유의 일관성·부담;독창성과 유용성을 분리 |
| 분석 | 평가자·참가자·과업을 고려한 혼합모형;계획 대비·다중비교 보정;무보조 전이를 사전 고정 |
| 반증·판정 | 효과가 자기보고 소유감에만 나타나거나 지연 전이에서 유지되지 않으면 역량 보존 가설 미지지 |
| 구현 부담 | 중간:텍스트 인터페이스는 단순하나 반복 방문·독립 평가자 확보 필요 |
| 의의와 한계 | 생산성과 인간 역량을 분리 평가;사용자 탈락과 과제 기억 효과가 핵심 위협 |

## R4. 문화적 맞춤보다 사용자가 고른 설명 방식이 유효한가

**문제:** 언어·집단에 따른 자동 개인화가 실제 이해와 적절한 의존을 높이는지는 확실하지 않다. 사용자의 명시적 선택과 자동 추정의 차이를 검증한다.

| 항목 | 설계 제안 |
|---|---|
| 가까운 선행연구 | [P21 사회방언 단서](https://doi.org/10.1145/3715275.3732045), [P19 정신모델 리뷰](https://doi.org/10.1007/s00146-026-03038-1), [P20 문화 비교](https://doi.org/10.1016/j.actpsy.2026.107094) |
| 구체적 차이 | 국적·정체성 기반 맞춤의 우위를 가정하지 않고,직접 선택한 설명 형식과 자동 적응을 행동 지표로 비교 |
| 가설 | 선택형 설명은 자동 적응형보다 기능 예측·오류 예상의 정합성을 높이되,부적절한 정답 거부는 증가시키지 않음 |
| 시스템 | 사례형·원리형·근거표형 설명의 선택과 언제든 변경 가능한 설정;세 형식의 사실 정보량을 통제 |
| 비교군 | 일반 설명 / 사전 과제에 따른 자동 적응 / 사용자 선택;정체성 추정은 사용하지 않음 |
| 사용자·과업 | 한국어 사용자 중 AI 경험·직무가 다른 성인;후속으로 비교 언어권 확장 |
| 데이터 | 동일한 정오답·확신·근거를 가진 사실검증 과제;번역된 과제는 난도 동등성 사전 검사 |
| 일차 지표 | 새로운 과업에서 AI 성공·실패를 예측하는 정확도 또는 Brier score |
| 보조 지표 | 적절한 의존·오류 수용·정답 거부·이해도·선호·설정 변경 횟수 |
| 분석 | 언어·집단 간 측정 동등성;사전 능력과 경험을 통제한 혼합모형;집단 차이는 탐색·확증을 분리 |
| 반증·판정 | 정보량과 사전 능력을 통제하면 선택형 효과가 사라지거나,선호만 높아지면 행동 개선 가설 미지지 |
| 구현 부담 | 중간~높음:번역·인지 인터뷰·집단별 표본과 측정 동등성 검증 필요 |
| 의의와 한계 | 한국어 HAI 실증 공백에 직접 대응;소규모 편의표본을 문화 전체로 일반화 금지 |

## R5. 장기 개인 에이전트의 기억 범위와 주도권의 변화

**문제:** 지속 기억은 편의를 제공하지만 사용자 목표가 바뀌었을 때 이전 선호가 계속 작동할 수 있다. 기억의 개인화 효과와 현재 선택권을 함께 평가한다.

| 항목 | 설계 제안 |
|---|---|
| 가까운 선행연구 | [P03 Avatar Intelligence](https://arxiv.org/abs/2611.03092), [P13 장기 챗봇 연구](https://arxiv.org/abs/2503.17473), [P14 탐색적 종단 연구](https://arxiv.org/abs/2504.14112) |
| 구체적 차이 | 사용 강도 상관관계를 인과로 해석하는 대신,비임상 업무 보조에서 기억 범위·만료·철회 기능을 무작위 배정 |
| 가설 | 목적별 만료·사용자 철회가 있는 기억은 무기한 기억보다 오래된 선호의 부적절한 적용을 줄이고 과업 효용은 비열등 |
| 시스템 | 과업별 기억 열람·편집·만료·삭제;현재 목표와 기억 충돌 시 확인;모든 조건에 삭제·탈퇴권 보장 |
| 비교군 | 세션 기억 / 지속 기억 / 목적별 만료+철회가 있는 지속 기억;기본 보안·삭제권은 모든 조건에 동일 |
| 사용자·과업 | 성인 지식근로자의 비민감 일정·자료정리·문서 작업;진단·치료·정서적 의존 유도 과제 제외 |
| 데이터 | 참여자 동의하에 최소 이벤트 수집;원문 대화보다 기억 변경·적용 상태를 우선;민감 기록 업로드 금지 |
| 일차 지표 | 목표 변경 뒤 오래된 선호를 부적절하게 적용한 비율 |
| 보조 지표 | 과업 효용·수정 부담·인지된 주도권·기억 이해도·선택적 관계 경험;제품 버전·사용량은 별도 기록 |
| 분석 | 반복측정 혼합모형·탈락 분석·사전 정의 결측 민감도;사용량과 결과의 상관을 배정 효과와 분리 |
| 반증·판정 | 오류 감소가 효용의 허용범위를 넘는 손실을 요구하거나,사용자 기억 이해가 개선되지 않으면 설계 수정 |
| 구현 부담 | 높음:수주 이상 운용·안정된 버전·개인정보 통제·탈락 관리 필요 |
| 의의와 한계 | 기억과 실효 통제의 장기 관계를 직접 시험;일반 업무 결과를 정신건강 효과로 확대 금지 |

## 비교와 우선순위

점수의 정밀도를 가장하지 않도록 정성 비교를 사용한다. ‘기여’는 잠재력 평가이고, 논문 채택 가능성의 예측이 아니다.

| 순위 | 후보 | 잠재적 기여 | 검증 가능성 | 데이터 접근성 | 구현·연구 부담 | 판단 |
|---|---|---|---|---|---|---|
| 1 | R2 상호작용 계보 | 데이터관리와 HAI를 잇는 측정·시스템 기여 | 높음:초기 오프라인 검증 가능 | 조건부:라이선스·스키마 확인 선행 | 낮음~중간 | 기존 그래프·데이터 연구 역량과 연결이 가장 직접적 |
| 2 | R1 위임 경계 | 실제 통제와 확인 비용의 인과 비교 | 높음:모의 환경에서 조작 가능 | 높음:합성 과업으로 시작 | 중간 | HAI 시스템 논문으로 명확한 비교 설계 가능 |
| 3 | R3 창작·전이 | 즉시 성과와 인간 역량의 분리 | 중간:반복 방문 필요 | 중간 | 중간 | 연구기획 교육 사례와 연결 가능 |
| 4 | R4 선택형 설명 | 한국어·개인차 근거 보완 | 중간:측정 동등성 선행 | 중간 | 중간~높음 | 단순 선호조사에 머무르지 않는 설계 중요 |
| 5 | R5 기억·주도권 | 장기 에이전트 운영의 인과 근거 | 중간:버전·탈락 통제 어려움 | 중간~낮음 | 높음 | 초기 단기 연구 이후 확장 권장 |

**추천:** R2는 공개 데이터의 이용 조건과 실제 제공 필드를 먼저 확인하는 착수 과제로, R1은 인과적 사용자 실험을 갖춘 후속 과제로 추천한다. 초기 파싱·질의·통계·모의 환경은 Apple Silicon CPU/MPS에서 수행하는 구성을 제안한다. 신규 모델 대규모 학습이나 외부 GPU/API 사용을 전제로 하지 않는다. 실제 인터페이스의 모델 효과를 검증할 때는 로컬 모델·출력 재생·시뮬레이션의 구분을 명시해야 한다.

## 공통 사전등록·분석 원칙

사람 대상 실험은 승인된 연구계획·동의·보상·중단권·개인정보 최소화·필요한 기관 심의를 갖춘 뒤 수행한다. 표본 수는 관행적 ‘30명’으로 정하지 않는다. 파일럿으로 결과변수 분산·참가자/과업 내 상관·탈락 가능성을 추정하고, 사전 정의 최소 의미 효과·주 검정·다중비교·검정력을 반영한 시뮬레이션으로 산정한다. 파일럿 결과를 확증 실험의 효과로 재사용하지 않는다.

각 후보는 주 지표 하나와 핵심 대비를 먼저 고정한다. 최소 의미 효과, 비열등 한계, 중단·제외·결측 규칙을 결과를 보기 전에 정한다. 여러 가설은 Holm 보정 등 계획한 보정을 적용한다. 통계적 유의성만으로 실용적 유용성을 선언하지 않으며, 효과 크기와 불확실성 구간·시간·부담을 함께 보고한다. AI 기반 평가자는 독립 인간 평가와 대조하고, 모델별 프롬프트·정보·시간 예산을 맞춘다.

실패 또는 불확실한 결과도 공개한다. ‘유의하지 않음’을 동등함으로 해석하지 말고, 신뢰구간이 최소 의미 효과를 배제하는지 확인한다. 연구 아이디어별 판정은 supported / not_supported / inconclusive로 구분할 수 있지만, 실제 데이터를 얻기 전에는 모두 미검증이다.