인공지능은 자아의식을 가질 수 있는가?

¶ 이병태

– 인공지능은 학습을 한다. 학습을 통해 어떤 대답들이 사회적으로 용인되는 대답들인지를 알게된다.

– 우리의 수많은 감성과 가치관도 사회적 학습의 결과다.

– 인공지능과 우리의 현존하는 차이는 스스로 학습하느냐 하지 않느냐 뿐이다.

인공지능은 자아의식을 가질 수 있는가?

구글이 자체 챗봇 LaMDA가 감성을 갖고 있다고 주장한 소프트웨어 엔지니어 Blake Lemoine을 해고했다. 챗봇과 이야기하면 할수록 7-8살 어린애와 이야기하는 것처럼 스스로의 감성을 느꼈다는 주장이다.

구글이 자체 챗봇 LaMDA가 감성을 갖고 있다고 주장한 소프트웨어 엔지니어 Blake Lemoine을 해고했다. 챗봇과 이야기하면 할수록 7-8살 어린애와 이야기하는 것처럼 스스로의 감성을 느꼈다는 주장이다. 인공지능이 스스로의 감성을 지닌다는 것은 인공지능에 대한 사회적 규제와 반발을 부르는 근거없는 이야기라는게 구글의 결정의 배경일 것이다.

인공지능(로봇)의 반란은 공상과학 영화나 소설의 흔한 설정이다. 구글은 회사 보안및 근로계약 위반을 이유로 들고 있다.

인공지능은 학습을 한다. 학습을 통해 어떤 대답들이 사회적으로 용인되는 대답들인지를 알게된다. 학습을 통해 인종차별이 잘못되었다는 강한 생각을 대답하는 인공지능 (믿음을 갖는다거나 신념이라는 말은 자아의식이 있는 주체를 가정하기 때문에 쓸 수없는 표현이다)과 학습에 의해 흑인은 게으르고 범죄자들이라는 대답을 하는 인공지능이 가능하다. 이 두 인공지능은 소수 인종에 대해 다른 태도 (감성), 가치관을 갖는다고 할 수 있는가 하는 점이다. 외양적으로는 판단이 안된다. 결국 자아의식이 있느냐 없느냐의 판단에 이르게 된다.

우리의 감성, 가치관은 자아에게서 유래되는가? 우리의 수많은 감성과 가치관도 사회적 학습의 결과다. 인공지능과 크게 다르지 않다. 나의 생각이라고 주장하는 대부분의 것은 내 오리지널 생각이 아니라 사회적으로 학습되는 것 중에 의식적 또는 무의식적으로 취사선택되고 혼합된 것들이 대부분이다.

그럼 데카르트가 마지막으로 의심하지 않는 자아란 무엇일까?

인공지능과 우리의 현존하는 차이는 스스로 학습하느냐 하지 않느냐 뿐이다. 우리는 우리의 삶의 향상을 위해 또는 수많은 이유로 스스로 학습한다. 인공지능이 스스로(?)의 존재를 의식하며 독립적으로 학습하는 사례는 없다. 이는 자아 의식은 없다는 증거이고 그걸 심어줄 방법도 현재는 없다. 따라서 감성이 있다는 주장이 근거없다는 구글의 주장이 옳다.

P.S. 회사의 정책과 계약을 위반하면 해고의 권리를 갖는 미국이 부럽다.