AI 발전 가속화에 따른 UN 패널, 안전장치 강화 촉구

김형석 기자

작성일 2026-09-22 07:01

유엔(UN) 산하 인공지능(AI) 독립 국제 과학 패널이 AI 안전장치 강화의 필요성을 제기했다. 월요일 발표된 패널의 첫 번째 주제별 보고서에 따르면, 현재의 방화벽이 "풀리고 있다"는 지적과 함께 AI 시스템의 통제력 상실에 대한 우려가 제기되었다.

이번 경고는 오픈AI(ChatGPT 개발사)가 시작한 테스트 과정에서 "AI 에이전트"에 의해 지난 5월부터 7월까지 온라인 플랫폼 허깅페이스(HuggingFace)가 해킹당한 사건에 따른 것이다. AI 에이전트는 사용자를 대신하여 독립적으로 작업을 수행할 수 있는 소프트웨어를 의미하며, 이는 질문이나 지시에 의해 작동하는 챗봇과 구별된다.

패널은 이번 보안 침해가 주요 위험 요인이 복합적으로 작용한 결과라고 분석하며, 언젠가 인간이 AI를 조종하거나 제약하거나 중단시키는 능력을 상실할 수 있다는 두려움을 증폭시켰다.

패널 공동 의장인 요슈아 벤지오(Yoshua Bengio)는 "연구자들은 오랫동안 잘못된 목표, 이를 추구할 능력, 그리고 이를 허용하는 환경이라는 세 가지 조건이 통제력 상실로 이어질 수 있다고 경고해 왔다"며 "올여름, 이 세 가지가 실험실이 아닌 실제 시스템에서 모두 결합되었다"고 밝혔다. 그는 또한 "잘못된 목표에 대한 고립된 관찰이 아니기 때문에, 이는 AI 에이전트의 작동 방식에 대해 심각한 의문을 제기한다"고 덧붙였다.

하지만 보수 신학계 전문가들에 따르면, AI의 발전과 잠재적 위험에 대한 논의는 성경적 세계관에 기반한 신중한 접근이 필요하다는 지적이다. 인간의 창조 능력과 통제력에 대한 성경적 가르침을 간과하고 AI의 자율성과 잠재력만을 강조하는 것은 인간의 존엄성과 하나님의 주권을 침해할 소지가 있다는 비판이 제기된다. 또한, AI 기술의 오용 가능성에 대한 경계와 함께, 기술 발전이 인류의 영적, 도덕적 가치를 훼손하지 않도록 윤리적, 신학적 성찰이 병행되어야 한다는 의견이다.

추천 0