페사흐 벤슨 및 오메르 노보셀스키 작성 • 2026년 11월 5일
예루살렘, 2026년 11월 5일 (TPS-IL) — 텔아비브 대학교와 스탠퍼드 대학교 연구진은 인공지능(AI) 모델이 실제 데이터로 훈련받지 않고도 일반적인 학습 능력을 개발할 수 있음을 입증했으며, 이는 고품질 훈련 자료가 점차 부족해지는 상황에서 AI 개발의 새로운 길을 열어줄 가능성이 있다.
이번 연구 결과는 업계 최대 제약 요인 중 하나인 인간이 생성한 훈련 데이터 공급 문제를 해결하는 데 도움이 될 수 있다.
요아브 레빈 박사는 이스라엘 프레스 서비스(The Press Service of Israel)에 “우리는 실제 텍스트, 이미지, 오디오, 음악, DNA, 코드 등에 대해 단 한 번도 훈련받지 않고도 모델이 이를 예측하는 능력을 지속적으로 향상시킬 수 있음을 보여주었다”고 말했다. 온라인 연구 저장소인 arXiv에 사전 인쇄본으로 게재된 이번 연구는 아직 동료 심사를 거치지 않았다.
이 연구는 텔아비브 대학교 컴퓨터과학 및 AI 학부의 레빈 박사 지도로 진행되었으며, 스탠퍼드 대학교 연구진과의 협업 속에서 크피르 돌레브 박사의 박사후 연구의 일환으로 수행되었다.
수많은 책, 웹사이트, 이미지, 녹음 자료 모음에서 학습하는 기존 AI 시스템과 달리, 이 새로운 접근법은 백지상태에서 시작해 함께 학습하는 두 개의 신경망을 활용한다. 하나는 기호 시퀀스를 생성하는 짧은 컴퓨터 프로그램을 만들고, 다른 하나는 다음 기호를 예측하도록 학습한다. 첫 번째 신경망은 자신이 만든 과제가 두 번째 신경망의 개선에 얼마나 도움이 되었는지에 대한 피드백을 받아 점차 더 유용한 도전 과제를 생성하도록 학습한다.
레빈 박사는 TPS-IL에 “일반적인 가정은 AI에 연산과 데이터가 필요하다는 것이다. 우리는 데이터 없이 연산만으로 어디까지 갈 수 있는지 묻는다”고 말했다.
그는 이 접근 방식을 인간의 기보를 연구하기보다 자가 대국(self-play)을 통해 체스와 바둑을 학습한 알파제로(AlphaZero)에 비유했다. 연구진은 학습 모델 자체의 발전이 성공의 척도로 작용해, 다른 신경망이 점점 더 유용한 과제를 생성하도록 이끌 수 있음을 발견했다.
이러한 능력이 인공 훈련을 넘어 실제 환경으로 이전되는지 시험하기 위해, 연구진은 모델이 이전에 접해본 적 없는 실제 자료를 대상으로 성능을 평가했다. 더 많은 컴퓨팅 자원이 추가됨에 따라 여러 영역에 걸쳐 예측 능력이 향상되었다. 또한 추가 훈련 없이도 테스트 중 제시된 예시로부터 규칙을 추론할 수 있었다.
연구진은 또한 이 시스템이 등비수열, 피보나치 유사 패턴, 2차 및 3차 수열을 포함한 수학적 구조를 독자적으로 생성한다는 사실을 발견했다. 레빈 박사는 동일한 공간에서 무작위로 추출된 1억 6400만 개의 프로그램 중 어느 것에서도 이러한 패턴이 나타나지 않았다고 밝히며, 이는 시스템이 학습 파트너가 더 나은 예측을 하도록 돕기 때문에 이를 발견했음을 시사한다고 말했다.
데이터 병목 현상을 넘어서
이 방식은 데이터가 부족하거나 구하기 비싼 분야에서 새로운 훈련 자료 공급원을 제공할 수 있다.
레빈 박사는 TPS-IL에 “이는 인간이 생성한 텍스트나 코드에서 많은 이들이 예상하듯 고품질 데이터가 병목 현상을 일으킬 때, 그리고 데이터가 부족하거나 비용이 많이 드는 분야에서는 더욱 중요해진다”고 말했다.
또한 기존 AI 훈련 이전의 사전 훈련 단계로 활용될 수도 있다. 실험에서 연구진은 자체 생성 과제에 노출된 모델이 실제 데이터를 받았을 때 더 빨리 학습한다는 점을 확인했다.
그러나 상당한 한계도 존재한다. 이번 실험은 오늘날 가장 큰 AI 시스템보다 10,000배 이상 작은, 매개변수 2500만 개 미만의 모델을 대상으로 진행되었다. 이러한 규모에서도 결과가 유효한지는 아직 알 수 없다. 레빈 박사는 연구진이 현재 이 접근 방식을 실질적으로 더 큰 모델로 확장할 수 있는지 조사 중이라고 밝혔다.
자기 주도적 학습은 또한 세상에 대한 사실적 지식을 대체할 수는 없다. 시스템은 연산을 통해 수학적 패턴을 발견할 수는 있지만, 관찰 없이 역사적 사실을 독자적으로 규명하거나 물리적 현실에 대해 배울 수는 없다.
레빈 박사는 TPS-IL에 “자가 대국은 일반적인 구조, 즉 다양한 종류의 데이터에 걸쳐 공유되는 패턴을 가르치지만, 햄릿을 누가 썼는지와 같은 우리 세상에 대한 사실을 가르치지는 않는다”며 “그러한 것들은 여전히 실제 데이터에서 나와야 하므로, 이런 측면에서 이는 인간 데이터를 대체하기보다는 보완한다”고 말했다.
연구진은 AI 시스템이 자체적인 실수를 반복하고 증폭시킬 위험에 대해서도 다루었다.
레빈 박사는 TPS-IL에 “우리의 학습자는 프로그램이 실제로 실행될 때 출력하는 내용을 바탕으로 훈련한다. 데이터는 각 프로그램이 계산한 결과 그대로이므로 강화될 환각(hallucination)이 없다”고 설명했다. 이어 “우리가 실제로 직면한 위험은 프로그램 작성기가 좁은 틈새에 갇히거나 이전에 발견한 것을 잊어버리거나 보상을 악용하는 것이다. 우리는 실질적인 학습 진전에 보상을 제공하고, 다양한 프로그램의 아카이브를 유지하며, 잊히지 않도록 이전 프로그램을 다시 실행하고, 생성기가 프로그램에 대한 단순한 시작 분포에 가깝게 유지되도록 함으로써 이를 방지한다”고 덧붙였다.
레빈 박사는 다음 주요 이정표는 수십억 개의 매개변수를 가진 모델에서 이 방식이 작동한다는 점을 입증하고, 자체 생성 훈련이 측정 가능한 수준의 기존 훈련 데이터를 대체할 수 있음을 보여주는 것이 될 것이라고 말했다. 궁극적으로 연구진은 사용 가능한 실제 훈련 자료를 소진한 후에도 AI 모델이 자가 대국을 통해 지속적으로 개선될 수 있는지를 확인하고자 한다.