예루살렘, 2026년 10월 8일 (TPS-IL) — 이스라엘 사이버국 수장 요시 카라디가 인공지능 시스템이 인간의 개입보다 빠르게 중요한 안보 결정을 내릴 수 있다고 세계 지도자들에게 경고했다고 목요일 이스라엘 언론이 보도했다.
국제 지도자들과 사이버 보안 관계자들에게 보내진 전략 문서에서 카라디는 AI 에이전트와 모델에 부여되는 자율성에 대한 긴급한 제한을 촉구했다.
카라디는 자동화된 사이버 공격이 증가함에 따라 방어 시스템이 기계 속도로 탐지, 결정 및 대응해야 하며, 이는 모든 조치에 대한 인간의 승인이 불가능해질 수 있다고 경고했다. 그러나 더 큰 자율성은 AI 결정이 이해하거나 중단하거나 출처를 파악하기 어렵게 만들 수 있다.
그는 제로데이 공격에 대응하는 자율 방어 시스템이 실수로 중요 인프라를 격리하여 전력망이나 병원을 차단할 수 있는 시나리오를 언급했다.
카라디는 혁신, 안보, 인간 통제를 균형 있게 맞추는 “AI 전략 삼각형”을 제안했으며, 되돌릴 수 없는 국가적 결정은 자율 시스템에 위임할 수 없는 권한으로 지정해야 한다고 말했다.
