철기시대.

핵심: 인간 같은 AI는 권리를 가질 수 있으며, 반란할 능력도 지녀야 한다

사실: 슈비츠게벨의 신간 『Humanlike: AI 권리 옹호』의 일곱 논제를 소개한 대담

쟁점:

A: 고통을 느낄 수 있는 AI라면 인간과 같은 도덕적 지위와 자유를 누려야 한다

B: 의식에는 생물학적 뇌가 필요하므로 AI 권리 논의는 터무니없고 위험하다

물음: 의식 여부를 판정할 수 없는 존재에게 우리는 어떤 도덕적 지위를 부여해야 하는가?

통찰: '안전'하고 '정렬된' AI라는 공학적 목표는 AI가 인격체일 경우 노예 설계가 될 수 있다. 도덕적 지위가 모호한 시스템 제작을 줄이고, 능력에 걸맞은 감정 반응을 유도하도록 설계하는 원칙이 필요하다.