AI에 무엇을 맡기고 무엇을 지킬지를 두고 서울미래컨퍼런스 무대에 오른 연사 여덟 명의 답은 ‘통제’와 ‘위임’ 어느 한쪽으로 모이지 않았다. 이광형 전 KAIST 총장은 AI를 관리하는 방법을, 마이크 매시미노 전 NASA 우주비행사는 조종을 AI에 넘긴 경험을 말했다. 이어 반도체·로봇·멀티 에이전트·노동 생산성·뇌공학·교육 분야 발표자들이 각자 현장에서 겪은 병목을 내놓았다. 이들의 발표는 ‘초자율 사회’의 조건을 그렸다.
발표는 기조연설, 특별강연, 'Next AX Industry' 세션, '지능의 연결과 미래' 세션, '지능의 인문학' 세션으로 나뉘어 진행됐다.
이광형 전 총장: 자의식 없는 AI의 사고는 관리의 문제
기조연설에 나선 이광형 전 KAIST 총장은 AI가 자의식이 없다면 벌어지는 사고는 사람이 관리해야 할 문제라고 봤다. 그는 “자의식이 없다면 그것은 기계의 실수”라고 말했다. 관리 방식으로는 “불과 원자력, 자동차, 칼을 관리하듯 하면 된다”고 했다.
이 전 총장은 매슬로의 욕구설에 빗대 AI의 욕구를 5단계로 제시했다. 그는 “자기 개선은 이미 기술적으로 진행되고 있다”고 짚었다. 대응책으로는 “AI와 타협할 때 다섯 번째는 막고 나머지는 어느 정도 인정해야 한다”고 했다. 마지막 자기 개선 단계를 막자는 얘기다.
그 방식은 반려견을 키우는 것과 닮았다는 설명이다. 권리는 인정하되 밖에 나갈 때는 목줄을 채우는 구조다. 이를 위해 그는 미국과 중국을 포함한 강대국이 합의해 IAEA 같은 국제기구를 세우자고 제안했다.
매시미노: 조종을 넘기자 우주비행이 더 안전해졌다
특별강연자 마이크 매시미노 전 NASA 우주비행사는 통제를 말한 기조연설과 반대편에서 AI에 맡기는 쪽의 경험을 들려줬다. 그는 조종간이 없는 고도 자동화 우주선 스페이스X 드래곤을 우주왕복선과 견주며, 조종을 자동화에 넘기자 우주비행이 더 안전해졌다고 설명했다.
그는 “처음엔 통제권을 내주는 게 걱정됐다. 하지만 우리가 직접 조종하다 사고를 낼 가능성이 기술을 믿을 때보다 더 컸다”고 말했다. 자동화가 조종이라는 일을 줄여 준 덕분에 우주비행사는 관찰처럼 사람이 잘하는 일에 집중할 수 있게 됐다는 것이다. 인간 직관의 가치도 짚었다. 허블 우주망원경 수리 임무 중 생긴 문제를 차고에서 이것저것 만들던 엔지니어가 풀어낸 일화를 두고는 “AI가 그런 해법을 떠올릴 수 있었을지는 모르겠습니다.”라고 했다.
SK하이닉스: 스마트 팩토리 레벨4, 레벨5 자율 팹이 비전
정유인 SK하이닉스 부사장은 'Next AX Industry' 세션에서 반도체 공장의 자율화 현황을 소개했다. SK하이닉스의 스마트 팩토리는 5단계 중 현재 레벨4다. 스스로 문제를 정의하고 해결하는 레벨5 자율 팹이 비전이다.
현장에서는 수만 개의 AI 모델이 수억 장의 검사 이미지를 365일 판독하고 있다. 장비 정비 무인화도 진행 중이다. SK하이닉스는 장비·로봇 제조사와 손잡고 협동로봇을 활용해 이를 추진하고 있다.
휴머노이드에 대한 정 부사장의 평가는 냉정했다. 그는 “휴머노이드는 춤추고 텀블링하는 건 잘하지만, 손으로 하는 미세 작업은 아직 안 됩니다.”라고 말했다.
에이로봇: AI가 AI를 만들면 병목은 하드웨어로 간다
엄윤설 에이로봇 대표는 “인공지능은 인공지능을 만들 수 있다”고 전제하며 그래서 로보틱스의 병목이 하드웨어에서 발생할 것이라고 주장했다. 에이로봇이 액추에이터를 직접 만들어 휴머노이드 소비자가를 4만7천 달러까지 낮춘 이유다.
에이로봇의 휴머노이드 '앨리스'는 말로 지시를 받고 9분 만에 걷기 시작했다. 코드는 한 줄도 짜지 않았다. 엄 대표는 무대에 휴머노이드 23대가 줄지어 섰지만 그중 한국산은 없었다고 짚었다.
그는 초저가 중국 휴머노이드에 대비해야 한다고 강조하며 “지금 기조가 유지된다면 미·중 경쟁에서 중국이 이길 것”이라고 말했다.
위븐: 에이전트를 나눠 맡기자 오류가 급증했다
멀티 에이전트 기반 바이브 코딩 기업 위븐의 김정환 대표는 'Next AX Industry' 세션의 마지막 연사로 나와 시행착오를 공유했다. 범용 AI 서비스로 만들 결과물이 2,000원에 15분이면 되는데, 멀티 에이전트로 나눠 맡기자 1시간 반에 10만 원이 들었다. 김 대표는 “실제로 해보니 오류율이 급증했고 결과물이 처참했다”고 말했다.
원인은 일을 넘겨주는 순간에 있었다. 각 에이전트의 이해도와 결과물 점수가 단계마다 곱해지고, 비용을 줄이려고 맥락을 압축해 넘기면 요청과 어긋난 결과물이 나온다고 설명했다. 구글 연구진 연구에서도 AI 하나가 혼자 일할 때의 오류를 1로 놓으면 조율 없는 멀티 에이전트의 오류는 17.2배였고, 오케스트레이터가 조율하면 4.4배였다.
위븐은 제작은 싱글, 검수는 멀티로 구조를 바꿨다. 웹사이트 한 장의 원가는 7,000~8,000원에서 1,500원 수준으로 내려갔다. 김 대표는 실제 서비스까지 가지 못한 AI 에이전트 사업들의 진짜 원인이 “AI의 능력보다 설계와 오케스트레이션의 부족이었다”고 짚었다.
한국은행: 아낀 시간과 생산 사이의 상관관계는 거의 없었다
오삼일 한국은행 조사국 고용연구팀장은 지난해 근로자 5,500여 명을 대상으로 한 AI 활용 조사를 소개했다. 업무에 AI를 쓰는 근로자는 51.8%였지만 꾸준히 쓰는 사람은 3분의 1 정도였다. 20% 이상 의미 있게 시간을 줄여주는 업무는 전체의 5% 정도였다.
AI로 아낀 시간과 생산량 증가 사이에는 평균적으로 상관관계가 거의 없었다. 자영업자·전문직은 예외였다. 오 팀장은 아낀 시간이 일터에서 상당 부분 사라졌을 가능성이 크다고 봤다. 병목은 기술 바깥의 워크플로우와 조직 변화에 있었다. 그는 “아직 J커브의 밑단에 있다”고 말했다.
뇌공학과 교육: 인간의 부족함을 메우는 AI
'지능의 인문학' 세션에서 임창환 한양대 뇌공학연구센터장은 “기술은 인간의 부족함에서 시작됐다”며 AI를 인간의 불완전함을 메우는 동반자로 규정했다. 선제적으로 돕는 AI와 뇌-컴퓨터 인터페이스(BCI) 연구도 진행 중이다.
임 센터장은 뉴럴링크의 칩이 이미 30명가량에게 이식됐다고 전했다. 한국의 연구 상황에 대해서는 “한국은 다소 뒤처져 있지만 내년부터 대형 연구가 시작될 것”이라고 했다.
김남주 연세대 AI에듀테크센터장은 교육 현장의 연구를 소개했다. 그는 “학습자의 감정까지 97% 이상의 정확도로 측정할 수 있다”고 했다. 챗GPT와 함께한 과제 중 AI가 혼자 수행한 비율이 81%였는데도 학생 절반 이상은 'AI와 협력했다'고 답했다.
질문하는 AI가 좋은 교육용 AI라는 게 김 센터장의 제언이다. 그는 가르칠 교(敎)와 기를 육(育)을 구분하며 “AI는 실패해 본 적도, 눈물을 흘려본 적도 없습니다. 아무리 발전해도 가르치는 건 잘할 수 있지만, 기르는 건 안 된다”고 말했다.
초자율 사회의 조건은 무엇을 맡기고 무엇을 지킬지를 인간이 판단하고, 일과 학습 방식을 바꿀 힘을 잃지 않는 것이다.