사회토론부

[한겨레] 구글 ‘AI 강제종료’ 연구중
‘인간 위협’땐 자폭하게 해


구글이 인공지능을 외부에서 강제로 종료시키는 ‘킬 스위치’를 연구중인 것으로 나타났다. 구글은 지난 3월 바둑 최고수 이세돌 9단을 꺾은 인공지능 ‘알파고’를 개발한 이 분야 최첨단 회사로, ‘강제 종료’ 연구는 인공지능이 장차 큰 위험이 될 수도 있음을 시사하는 것이어서 눈길을 끈다.

알파고를 개발한 구글 자회사 딥마인드의 로랑 오르소는 영국 옥스퍼드대 인류미래연구소(FHI)의 스튜어트 암스트롱과 최근 인공지능 관련 학회에서 ‘(인간이) 안전하게 개입할 수 있는 행위자’(Safely Interruptible Agents)란 논문을 발표했다. 행위자란 인공지능을 말한다. 4일(현지시각) 미국 정보기술 전문매체 <마더보드>는 이 논문을 소개하며 “딥마인드 연구자들이 인공지능의 킬 스위치를 개발중”이라고 전했다. 킬 스위치는 스마트폰 등을 잃어버렸을 때 원격으로 해당 기기를 쓸 수 없게 만들어 버리는 기술로, 자폭과 비슷한 개념이다.

알파고처럼 스스로 학습해 최선의 답을 찾는 ‘강화학습’ 기능을 갖춘 인공지능의 경우 만든 사람조차 그 작동을 이해하지 못한다. 이세돌 9단보다 바둑을 훨씬 못 두는 딥마인드 연구진이 만든 알파고가 이 9단을 이긴 이유도 이 때문이다.

그런데 이런 인공지능이 늘 인간이 바라는 대로만 움직이는 게 아니다. 마이크로소프트의 채팅봇 ‘테이’가 인종차별적 표현을 배워 구사한 것이 대표적 사례다. 빌 게이츠도 “극히 조심스럽게 접근해야 한다”며 슈퍼인공지능의 위험을 지적한 바 있다. 이런 인공지능은 인간이 문제가 있음을 깨닫고 중지시키려 할 경우, 최적의 답을 내는 데 방해가 된다고 판단해 중지 버튼을 무력화시켜버릴 위험이 있다. 이번 논문은 수학적 논증을 통해 인간의 개입에 저항하지 못하는 강화학습 인공지능을 설계할 수 있다는 게 주된 내용이다.

하지만 논란은 계속될 전망이다. 전기차 테슬라의 일론 머스크 최고경영자(CEO)는 지난 2일(현지시각) 강연에서 거대 기업의 인공지능이 인류를 지배하는 “폭군”이 될 수 있다고 주장했다.

권오성 기자 sage5th@hani.co.kr    

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]