기본 콘텐츠로 건너뛰기

AI가 작성한 논문이 리뷰를 통과했다?

 


(The AI Scientist workflow. Credit: Nature (2026). DOI: 10.1038/s41586-026-10265-5)

​

최근 AI는 사회 전영역에 침투하고 있습니다. 과학 연구도 예외가 될 순 없는데, 잘 사용하면 큰 도움을 주기도 하지만 악용할 우려도 존재합니다. 실제하지 않는 연구를 생성하거나 혹은 그럴듯하게 꾸며 불필요한 연구 자원을 낭비하고 크게 의미 없는 연구를 늘릴 수 있다는 것이 대표적 우려입니다.

​

도쿄에 본사를 둔 사카나 AI (Sakana AI)는 모든 과학 연구를 스스로 생성하는 AI 과학자 (AI Scientist)가 실제로 가능하다는 것을 입증했습니다.

​

연구팀이 개발한 인공지능 과학자는 연구 아이디어를 창출하고 , 코드를 작성하고, 실험을 실행하고, 데이터를 그래프로 나타내고 분석하고, 과학 논문 전체를 작성하고, 자체적으로 동료 평가를 수행하는 모든 과정을 스스로 진행합니다.

​

AI 과학자의 작업 흐름은 실제 인간 과학자의 작업 흐름을 모방합니다. 먼저 연구 방향 목록을 생성하고 문헌 데이터베이스와 대조하여 이미 다뤄진 주제를 제외합니다. 그다음 실험 단계로 넘어가는데, 이 단계에서는 사람이 제공한 템플릿을 사용하거나, 점점 더 많이 사용되는 방식으로 처음부터 직접 코드를 작성하여 실험을 실행합니다.

​

실험이 완료되면 AI는 LaTeX(문서 작성 시스템)을 사용하여 정식 과학 논문을 작성합니다. 방법론, 결과, 토론 등 일반적인 논문에 포함되는 모든 내용을 작성하는 것 외에도, 인용할 관련 연구를 검색할 수도 있습니다. 마지막으로, 시스템은 정확성, 품질 및 독창성을 기준으로 논문을 평가하도록 훈련된 또 다른 AI인 자동 검토자를 활용합니다.

​

연구팀은 2025년 국제 학습 표현 학회(ICLR) 워크숍에 AI가 생성한 논문 세 편을 제출했습니다 . 인간 심사위원들에게는 일부 논문이 AI가 생성한 것일 수 있다는 사실만 알려주고, 어떤 논문이 AI가 생성한 것인지는 알려주지 않았습니다.

​

그 결과 제출된 세 편의 논문 중 한 편이 채택에 필요한 점수를 받았습니다. 논문들은 6점, 7점, 6점을 받아 평균 6.33점을 기록했는데, 아주 뛰어난 점수는 아니지만 인공지능이 동료 평가를 거치는 과학 저널에 통과 가능한 수준의 연구를 생성했다는 데 의의가 있습니다.

​

인공지능이 앞서 포스팅한 것처럼 인간이 수작업으로 다루기 힘든 대규모의 데이터를 효과적으로 분석하거나 인간 연구자를 여러 가지 방법으로 돕는 일은 바람직해 보이지만, 이렇게 아예 연구 전체나 상당 부분을 생성하는 일은 위험성을 내포하고 있습니다.

​

해당 논문은 이후 학회 주최측과의 실험 투명성 합의의 일환으로 철회됐지만, 실제 AI 생성 논문이라는 점을 밝히지 않고 투고해 연구비를 지원받거나 연구 업적을 부풀리는 문제가 생길 가능성을 시사한데서 문제가 있습니다. 이 경우 논문 투고 편수가 급증해 인간 리뷰어가 제대로 평가하기 힘든 상황이 생길 수 있습니다.

​

여기에 AI가 존재하지 않는 참고 문헌을 생성하거나 실험 이미지를 생성하는 등 얼핏 보기엔 그럴 듯해서 쉽게 진위를 구분하기 힘든 환각 현상으로 오히려 과학 연구에 해를 끼칠 가능성도 존재합니다.

​

따라서 어떻게 이런 문제를 막을 수 있는지가 새로운 고민으로 떠오르고 있습니다. 현명하게 AI를 사용하는 일이 더 똑똑한 AI를 개발하는 것 이상으로 중요한 과제가 되고 있습니다.

​

참고

​

​

https://phys.org/news/2026-03-ai-paper-peer.html#google_vignette

​

Chris Lu et al, Towards end-to-end automation of AI research, Nature (2026). DOI: 10.1038/s41586-026-10265-5

​

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

벨 V-280 Valor 시험 비행 성공

( The V-280 Valor flew for the first time at Bell Helicopter's Amarillo Assembly Center in Texas(Credit: Bell Helicopter/YouTube) )  앞서 소개드린 V-280 발러가 첫 번째 비행 테스트에 성공했다는 소식입니다. V-22 오스프리의 소형화 버전이라고 할 수 있는 V-280 발러는  미 육군의 차세대 헬기 사업인 Future Vertical Lift (FVL)에 입찰을 시도하는 틸트로터기로 현재 미 육군이 주력으로 사용하는 블랙호크 헬기와 비슷한 체급입니다. 다만 틸트로터기인 만큼 최고 속도나 항속 거리면에서 더 유리합니다. 스펙은 이전 포스트를 참조해 주시기   이전 포스트:  https://blog.naver.com/jjy0501/221115245986  (동영상)   V-280 발러는 틸트로터기의 더 대중화 될 수 있을지를 검증하는 중요한 무대가 될 것입니다. V-22 오스프리의 경우 복잡한 구조로 인해 가격이 너무 비싸져서 사실 미국은 몰라도 그 동맹국에 널리 도입되기는 어려운 부분이 있습니다. V-280 역시 가격이 아주 저렴할 것 같지는 않지만, 좀 더 합리적인 대안은 될 수 있을 것 같습니다. 만약 성공적인 결과가 나오면 한국을 포함한 미국의 동맹국에서 도입을 검토할 수 있을지 모르겠다는 생각입니다.   참고  https://newatlas.com/bell-v-280-valor-maiden-flight/52663/
댓글 쓰기
자세한 내용 보기

세상에서 가장 큰 벌

( Wallace's giant bee, the largest known bee species in the world, is four times larger than a European honeybee(Credit: Clay Bolt) ) (Photographer Clay Bolt snaps some of the first-ever shots of Wallace's giant bee in the wild(Credit: Simon Robson)  월리스의 거대 벌 (Wallace’s giant bee)로 알려진 Megachile pluto는 매우 거대한 인도네시아 벌로 세상에서 가장 거대한 말벌과도 경쟁할 수 있는 크기를 지니고 있습니다. 암컷의 경우 몸길이 3.8cm, 날개너비 6.35cm으로 알려진 벌 가운데 가장 거대하지만 수컷의 경우 이보다 작아서 몸길이가 2.3cm 정도입니다. 아무튼 일반 꿀벌의 4배가 넘는 몸길이를 지닌 거대 벌이라고 할 수 있습니다.   메가칠레는 1981년 몇 개의 표본이 발견된 이후 지금까지 추가 발견이 되지 않아 멸종되었다고 보는 과학자들도 있었습니다. 2018년에 eBay에 표본이 나왔지만, 언제 잡힌 것인지는 알 수 없었습니다. 사실 이 벌은 1858년 처음 발견된 이후 1981년에야 다시 발견되었을 만큼 찾기 어려운 희귀종입니다. 그런데 시드니 대학과 국제 야생 동물 보호 협회 (Global Wildlife Conservation)의 연구팀이 오랜 수색 끝에 2019년 인도네시아의 오지에서 메가칠레 암컷을 야생 상태에서 발견하는데 성공했습니다.   메가칠레 암컷은 특이하게도 살아있는 흰개미 둥지가 있는 나무에 둥지를 만들고 살아갑니다. 이들의 거대한 턱은 나무의 수지를 모아 둥지를 짓는데 유리합니다. 하지만 워낙 희귀종이라 이들의 생태에 대해서는 거의 알려진 바가 없습니다.  (동영상)...
댓글 쓰기
자세한 내용 보기

몸에 철이 많으면 조기 사망 위험도가 높다?

 철분은 인체에 반드시 필요한 미량 원소입니다. 헤모글로빈에 필수적인 물질이기 때문에 철분 부족은 흔히 빈혈을 부르며 반대로 피를 자꾸 잃는 경우에는 철분 부족 현상이 발생합니다. 하지만 철분 수치가 높다는 것은 반드시 좋은 의미는 아닙니다. 모든 일에는 적당한 수준이 있게 마련이고 철 역시 너무 많으면 여러 가지 질병을 일으킬 수 있습니다. 철 대사에 문제가 생겨 철이 과다하게 축적되는 혈색소증 ( haemochromatosis ) 같은 드문 경우가 아니라도 과도한 철분 섭취나 수혈로 인한 철분 과잉은 건강에 문제를 일으킬 수 있습니다. 하지만 높은 철 농도가 수명에 미치는 영향에 대해서는 잘 알려지지 않았습니다.   하버드 대학의 이야스 다글라스( Iyas Daghlas )와 임페리얼 칼리지 런던의 데펜더 길 ( Dipender Gill )은 체내 철 함유량에 영향을 미치는 유전적 변이와 수명의 관계를 조사했습니다. 연구팀은 48972명의 유전 정보와 혈중 철분 농도, 그리고 기대 수명의 60/90%에서 생존 확률을 조사했습니다. 그 결과 유전자로 예측한 혈중 철분 농도가 증가할수록 오래 생존할 가능성이 낮은 것으로 나타났습니다. 이것이 유전자 자체 때문인지 아니면 높은 혈중/체내 철 농도 때문인지는 명확하지 않지만, 높은 혈중 철 농도가 꼭 좋은 뜻이 아니라는 것을 시사하는 결과입니다.   연구팀은 이 데이터를 근거로 건강한 사람이 영양제나 종합 비타민제를 통해 과도한 철분을 섭취할 이유는 없다고 주장했습니다. 어쩌면 높은 철 농도가 조기 사망 위험도를 높일지도 모르기 때문입니다. 그러나 임산부나 빈혈 환자 등 진짜 철분이 필요한 사람들까지 철분 섭취를 꺼릴 필요가 없다는 점도 강조했습니다. 연구 내용은 정상보다 높은 혈중 철농도가 오래 유지되는 경우를 가정한 것으로 본래 철분 부족이 있는 사람을 대상으로 한 것이 아니기 때문입니다. 낮은 철분 농도와 빈혈이 건강에 미치는 악영향은 이미 잘 알려져 있기 때문에 철...
댓글 쓰기
자세한 내용 보기