(The AI Scientist workflow. Credit: Nature (2026). DOI: 10.1038/s41586-026-10265-5)
최근 AI는 사회 전영역에 침투하고 있습니다. 과학 연구도 예외가 될 순 없는데, 잘 사용하면 큰 도움을 주기도 하지만 악용할 우려도 존재합니다. 실제하지 않는 연구를 생성하거나 혹은 그럴듯하게 꾸며 불필요한 연구 자원을 낭비하고 크게 의미 없는 연구를 늘릴 수 있다는 것이 대표적 우려입니다.
도쿄에 본사를 둔 사카나 AI (Sakana AI)는 모든 과학 연구를 스스로 생성하는 AI 과학자 (AI Scientist)가 실제로 가능하다는 것을 입증했습니다.
연구팀이 개발한 인공지능 과학자는 연구 아이디어를 창출하고 , 코드를 작성하고, 실험을 실행하고, 데이터를 그래프로 나타내고 분석하고, 과학 논문 전체를 작성하고, 자체적으로 동료 평가를 수행하는 모든 과정을 스스로 진행합니다.
AI 과학자의 작업 흐름은 실제 인간 과학자의 작업 흐름을 모방합니다. 먼저 연구 방향 목록을 생성하고 문헌 데이터베이스와 대조하여 이미 다뤄진 주제를 제외합니다. 그다음 실험 단계로 넘어가는데, 이 단계에서는 사람이 제공한 템플릿을 사용하거나, 점점 더 많이 사용되는 방식으로 처음부터 직접 코드를 작성하여 실험을 실행합니다.
실험이 완료되면 AI는 LaTeX(문서 작성 시스템)을 사용하여 정식 과학 논문을 작성합니다. 방법론, 결과, 토론 등 일반적인 논문에 포함되는 모든 내용을 작성하는 것 외에도, 인용할 관련 연구를 검색할 수도 있습니다. 마지막으로, 시스템은 정확성, 품질 및 독창성을 기준으로 논문을 평가하도록 훈련된 또 다른 AI인 자동 검토자를 활용합니다.
연구팀은 2025년 국제 학습 표현 학회(ICLR) 워크숍에 AI가 생성한 논문 세 편을 제출했습니다 . 인간 심사위원들에게는 일부 논문이 AI가 생성한 것일 수 있다는 사실만 알려주고, 어떤 논문이 AI가 생성한 것인지는 알려주지 않았습니다.
그 결과 제출된 세 편의 논문 중 한 편이 채택에 필요한 점수를 받았습니다. 논문들은 6점, 7점, 6점을 받아 평균 6.33점을 기록했는데, 아주 뛰어난 점수는 아니지만 인공지능이 동료 평가를 거치는 과학 저널에 통과 가능한 수준의 연구를 생성했다는 데 의의가 있습니다.
인공지능이 앞서 포스팅한 것처럼 인간이 수작업으로 다루기 힘든 대규모의 데이터를 효과적으로 분석하거나 인간 연구자를 여러 가지 방법으로 돕는 일은 바람직해 보이지만, 이렇게 아예 연구 전체나 상당 부분을 생성하는 일은 위험성을 내포하고 있습니다.
해당 논문은 이후 학회 주최측과의 실험 투명성 합의의 일환으로 철회됐지만, 실제 AI 생성 논문이라는 점을 밝히지 않고 투고해 연구비를 지원받거나 연구 업적을 부풀리는 문제가 생길 가능성을 시사한데서 문제가 있습니다. 이 경우 논문 투고 편수가 급증해 인간 리뷰어가 제대로 평가하기 힘든 상황이 생길 수 있습니다.
여기에 AI가 존재하지 않는 참고 문헌을 생성하거나 실험 이미지를 생성하는 등 얼핏 보기엔 그럴 듯해서 쉽게 진위를 구분하기 힘든 환각 현상으로 오히려 과학 연구에 해를 끼칠 가능성도 존재합니다.
따라서 어떻게 이런 문제를 막을 수 있는지가 새로운 고민으로 떠오르고 있습니다. 현명하게 AI를 사용하는 일이 더 똑똑한 AI를 개발하는 것 이상으로 중요한 과제가 되고 있습니다.
참고
https://phys.org/news/2026-03-ai-paper-peer.html#google_vignette
Chris Lu et al, Towards end-to-end automation of AI research, Nature (2026). DOI: 10.1038/s41586-026-10265-5
댓글
댓글 쓰기