AI는 검증하는 사람의 안목만큼만 믿을 수 있다: 에이전틱 AI 시대, 연구 현장의 신뢰 설계

한국과학기술한림원(KAST) 정책매거진 『한림원의 창』 2026 여름호 · 연간 기획 「AI와 함께 연구하는 시대」 중 소주제 「AI와 과학의 공진화(共進化)」

에이전틱 AI가 연구 현장에 들어오면서 연구자의 일이 어떻게 옮겨 가는지를, 실제 연구 세 장면 — 논문 그래프에서 수치를 복원하는 일, 원고를 쓰고 검증하는 일, 흩어진 연구 기록을 정리하는 일 — 을 따라 서술했다.

핵심은 두 가지다. 좋은 설계는 AI에게 일을 더 떠맡기는 데 있지 않고 어디서 손을 떼게 할지를 정하는 데 있다는 것, 그리고 환각을 막는 것은 더 똑똑한 모델이 아니라 모른다고 말할 수 있는 구조라는 것이다.

“우리가 만들어야 할 것은 더 똑똑한 모델이 아니라 더 믿을 수 있는 시스템이다. 그런데 그 시스템은 결국 그것을 검증하는 사람의 안목만큼만 믿을 수 있다.”

약 2,000부가 한림원 회원·국회·정부부처·언론·대학·학회에 배포되었다.