AI 개발 속도를 일률적으로 늦추는 대신 위험 수준에 따라 안전장치와 검증 체계를 마련해야 한다는 제안이 정부 세미나에서 나왔다. 에이전틱 AI 기업 포티투마루(42Maru)의 김동환 대표는 10월 1일 서울 중구 서울스퀘어에서 열린 국가인공지능전략위원회 ‘AI 개발 속도조절론 관련 세미나’ 패널 토론에 참여해 이같이 주장했다. 김 대표는 국가AI전략위 공공AX분과 위원이기도 하다.
세미나는 국가AI전략위 보안특별위원회가 마련했다. 글로벌 프런티어 AI 개발 속도조절론이 주제였고, 국내가 어떻게 대응할지도 함께 다뤘다. 프런티어 AI 역량 확보와 위험평가·안전검증·통제 체계 강화가 함께 논의됐다.
속도 조절 대신 위험 기반 관리 제안
김 대표는 개발 속도를 일률적으로 조절하는 방식의 현실성에 의문을 제기했다. 대안으로는 위험 수준과 활용 분야별로 관리하는 위험 기반(Risk-based) 관리 체계를 내놓았다.
김 대표는 “글로벌 프런티어 모델 속도조절론 논쟁에 휩쓸려 대한민국의 AI 혁신이 흔들려서는 안 된다”며 “지금 필요한 것은 속도 조절이 아니라 안전성과 신뢰성을 검증할 수 있는 안전장치를 강화하는 것”이라고 말했다.
환각·데이터 유출 통제할 기술적 안전장치
포티투마루는 환각과 데이터 유출 등 위험을 평가하고 통제할 기술적 안전장치를 공공·산업 현장에 구축하자고 제안했다. 검증 가능한 범위에서는 에이전틱 AI 활용을 넓혀야 한다는 주장도 함께 폈다.
국제기구를 통한 다자 협력과 국제 AI 안전 규범 논의에서 한국이 적극적인 역할을 해야 한다는 점도 강조했다.
세미나에는 하정우 국가AI전략위 상근 부위원장이 인사말을 했고, 이원태 보안특별위원장이 기조발제를 맡았다. 최대선 숭실대 AI안전성연구센터 센터장, 김성훈 업스테이지(Upstage) 대표, 이한울 에임인텔리전스(Aim Intelligence) 부사장은 발표자이자 패널로 나섰다. 김명주 AI안전연구소 소장도 패널로 참여했다.
공공 AX 시장 공략 중
포티투마루는 공공 AX 시장을 공략하고 있다. LLM42 v.1.1과 RAG42 v.1.3은 지난 9월 인공지능 제품·서비스 확인제 확인을 받았다.