AI가 논문 검색과 요약을 돕는 보조 도구를 넘어 가설을 세우고 실험을 설계·수행하며 결과를 검증하는 연구 과정 자체에 참여하는 단계로 진화하고 있다. 국내 기업 아스테로모프는 범용 AI 모델과 실제 과학 연구를 연결하는 ‘추론 레이어’를 개발 중이며, 오픈AI·앤트로픽 등 해외 기업들도 각자의 방식으로 AI를 연구 현장에 투입하는 ‘Scientific AI’ 경쟁을 벌이고 있다.
아스테로모프의 추론 레이어는 LLM에 분야별 과학 데이터와 전문 도구, 다수 AI 에이전트의 협업·검증 과정을 결합해 반복 추론으로 가설을 발전시키는 구조다. 이 회사의 개념검증(PoC) 시스템 틸라(Thyla) 1.0은 모델 애그노스틱 구조로 설계됐으며, 기반 모델인 GLM-5.1이 Frontier Science-Research 벤치마크에서 10.0%를 기록한 반면 틸라 1.0을 적용하자 33.9%로 성능이 뛰었다. 또한 지난 7월 열린 제56회 국제물리올림피아드(IPhO 2026) 이론시험에서는 5시간 동안 30점 만점에 28.6점을 받았다.
수학은 형식 검증, 생물학·신소재는 실제 실험이 관건
수학 분야는 형식 검증을 거쳐 결과를 확인할 수 있다. 오픈AI는 내부 연구 모델을 통해 나비에-스토크스 밀레니엄 문제의 해법을 제안했는데, 약 1만개의 에이전트가 동시에 실행돼 88시간 만에 해법에 도달했고 이후 GPT-6 Astra를 이용해 Lean으로 형식화·검증하는 데 17시간이 추가로 걸렸다. 앤트로픽은 클로드를 이용해 페르마 마지막 정리 증명을 형식화했는데, 11일에 걸쳐 최종 Lean 코드가 약 1300만줄 규모로 완성됐다.
반면 생물학이나 신소재 분야는 형식 검증만으로 가설을 확인할 수 없어 실제 실험을 거쳐야 한다. 이 때문에 AI의 추론 능력을 실험 환경과 얼마나 긴밀하게 연결하느냐가 경쟁력을 가르는 요소로 떠오르고 있다.
해외는 자율실험실과 결합한 폐쇄루프 방식
미국의 라일라 사이언스(Lila Sciences)는 AI 모델과 로봇 기반 자율실험실을 결합한 ‘AI Science Factory’를 구축하며 95만개 이상의 mRNA 서열을 합성했다. 피리오딕 랩스(Periodic Labs)는 AI와 자율실험실을 결합해 초전도체·자성 소재 등 신물질을 탐색하는 회사로, 지난 15일 1조 파라미터 규모의 모델 Periodic Neon을 공개했다. 디스커버리 루프(Discovery Loop)는 이들과 달리 특정 과학 분야보다는 연구·엔지니어링 과정 자체를 AI로 자동화하는 데 초점을 맞춘 시스템으로, 실험 제안부터 실행·결과 분석·후속 실험 설계까지 AI가 연속적으로 처리한다.
아스테로모프 관계자는 “향후 과학 AI의 경쟁력은 단순히 벤치마크에서 높은 점수를 내는 것을 넘어 실제 연구 현장에서 의미 있는 가설을 제시하고 이를 실험을 통해 검증하는 과정까지 얼마나 효과적으로 이어갈 수 있느냐에 달려 있다”고 말했다. 이어 “AI의 추론과 실제 실험을 긴밀하게 연결해 복잡한 과학 연구를 반복 가능한 체계로 만드는 데 집중하겠다”고 밝혔다.
경쟁의 축은 이제 어떤 모델이 더 높은 점수를 내느냐에서, 그 추론 능력을 실제 실험 데이터·장비·도구와 얼마나 효과적으로 연결하느냐로 옮겨가고 있다. 아스테로모프를 비롯한 국내외 기업들의 추론 레이어와 폐쇄루프 시스템 경쟁은 이 연결 지점을 둘러싸고 계속될 전망이다.