페이스북 봇, 스스로 언어 개발… 페북 엔지니어들 패닉에 빠져

페이스북 봇, 스스로 언어 개발… 페북 엔지니어들 패닉에 빠져

Posted by 기자(mpswoori@naver.com) on in
페이스북 펌

페이스북 펌

세계의 가장 강력한 컴퓨터 시스템들이 효율성과 속도 향상을 위해 인공지능을 본격적으로 도입하기 시작하면서 AI가 초래할 수 있는 잠재적 피해 또한 점점 커지고 있다. 기술 공동체의 많은 사람들이 인공 지능이 인간들에게 대항할 수 있는 방법들을 이론화했는데 페이스북은 그러한 시나리오가 펼쳐질 수 있는 방법에 대한 흥미로운 교훈을 얻었다. 페이스북의 엔지니어들은 봇이 인간이 쉽게 해독할 수 없는 완전히 새로운 언어로 의사소통을 하기 시작한 이후 AI 시스템들 중 하나에서 플러그를 뽑아야만 하는 지경에 이르렀다.

페이스북 AI 봇은 서로 커뮤니케이션 하기 위해 평범한 영어를 사용하도록 프로그래밍 되었지만 갑자기 횡설수설하기 시작했다. “나는 다른 모든 것을 할 수 있다.”, “공이 내게 내게 내게 내게 내게 내게” 등과 같은 문장이 AI에 의해 앞뒤로 전달되었고, 인간은 그게 무엇을 의미하는지 전혀 이해할 수 없었던 반면 봇은 서로를 이해할 수 있었다. 그러자 페이스북은 AI시스템을 종료할 수밖에 없었다.

여기서 가장 명백한 위험은 자신의 새로운 언어를 사용하여 서로 커뮤니케이션하는 컴퓨터를 인간은 이해할 수 없고 그것을 제어하기가 굉장히 어렵다는 점이다. 봇은 평범한 언어에 구속되지 않고 최선의 의사 결정을 위해 서로 소통하는 효율적인 방법을 개발해 낸 것이다. 이것은 굉장히 인상적이면서 동시에 무서운 것이다.

한편 페이스북의 저커버그는 인공 지능을 열렬히 지지하는 사람이며 인공 지능이 인류에게 야기할 수 있는 이론적 위험에 대해 큰 우려를 하지 않는 것으로 알려져 있다. 그러나 페이스북 봇이 초래한 위와 같은 실질적인 위험들 때문에 아마도 그가 인공 지능에 대해 가지고 있던 기존 입장을 조금은 바꿀 것이라는 관측이 고개를 들고있다.


아이모바일 관련 뉴스