[앵커]
알파고 충격 이후 전세계적으로 인공지능에 대한 관심이 높아지고 있지요, 미국 마이크로소프트가 사람과 대화할 수 있는 인공지능 로봇을 선보였는데 공개된지 하루도 안 돼서 심각한 '막말'을 하다가 서비스가 중단됐습니다.
최규진 기자의 보도입니다.
[기자]
가상의 10대 소녀로 설정된 인공지능 채팅 로봇 '테이'.
트위터 등을 통해 누리꾼과 대화를 나눌 수 있도록 설계된 프로그램입니다.
그런데 공개된 지 하루가 채 지나지 않아, 테이는 각종 차별적 발언을 쏟아냈습니다.
"홀로코스트가 실제로 일어났다고 믿느냐"는 네티즌의 질문에 테이는 '사실은 조작된 것'이라고 답하고, "당신은 인종차별 주의자냐?"는 질문엔 "네가 멕시코인이니까 그렇다"고 대꾸합니다.
'히틀러는 옳고, 페미니스트는 정말 싫다' 식의 차별적 발언은 극우성향의 누리꾼들이 테이를 세뇌시킨 결과입니다.
사람과의 대화를 통해 스스로 패턴을 학습하는 테이의 능력을 악용해 테이가 차별 발언을 하도록 훈련시킨 겁니다.
마이크로소프트 측은 문제가 된 메시지들을 삭제하고 서비스 운영을 중단했습니다.
인공지능의 자연스러운 학습을 방해하는 외부의 의도된 개입을 어떻게 제어할 지가 숙제로 떠올랐습니다.