AI 논쟁을 형성하는 '위험한' 이념을 둘러싼 싸움

파리(AFP) – 실리콘 밸리가 가장 좋아하는 철학인 장기주의는 인류 멸종이라는 개념을 중심으로 인공 지능에 대한 논쟁의 틀을 잡는 데 도움이 되었습니다.

발행 날짜: 2023년 8월 28일 - 11:13

그러나 점점 더 목소리가 높아지는 비판자들은 이 철학이 위험하고 멸종에 대한 집착이 데이터 도난 및 편향된 알고리즘과 같은 AI와 관련된 실제 문제를 방해한다고 경고하고 있습니다.

전직 장기론자에서 비평가로 변신한 저자 에밀 토레스는 AFP와의 인터뷰에서 이 철학은 과거 대량 학살과 대량 학살을 정당화하기 위해 사용했던 원칙에 기초하고 있다고 말했습니다.

그러나 트랜스휴머니즘과 효과적인 이타주의와 같은 운동과 연결된 이데올로기는 옥스퍼드에서 스탠포드에 이르는 대학과 기술 부문 전반에 걸쳐 큰 영향력을 행사하고 있습니다.

Peter Thiel 및 Marc Andreessen과 같은 벤처 자본가들은 생명 연장 회사 및 이 운동과 관련된 기타 애완동물 프로젝트에 투자했습니다.

Elon Musk와 OpenAI의 Sam Altman은 AI가 인류를 멸종시킬 수 있다고 경고하는 공개 서한에 서명했습니다. 하지만 그들은 자신들의 제품만이 우리를 구할 수 있다고 주장함으로써 이익을 얻을 수 있습니다.

궁극적으로 비평가들은 이러한 비주류 운동이 인류의 미래에 대한 공개 토론에 너무 많은 영향력을 행사하고 있다고 말합니다.

장기주의자들은 우리가 가장 많은 수의 인간을 위해 최상의 결과를 생산하도록 노력할 의무가 있다고 믿습니다.

이는 많은 19세기 자유주의자들과 다르지 않지만 장기론자들은 훨씬 더 긴 일정을 염두에 두고 있습니다.

그들은 먼 미래를 내다보고 수조에 달하는 인간이 우주를 떠다니며 새로운 세계를 식민지화하는 것을 봅니다.

그들은 우리가 오늘날 살아 있는 모든 사람에게 하는 것과 마찬가지로 미래의 인류 각자에게도 동일한 의무를 지고 있다고 주장합니다.

그리고 그 수가 너무 많기 때문에 오늘날의 표본보다 훨씬 더 많은 무게를 지니고 있습니다.

이런 종류의 사고는 이데올로기를 "정말로 위험하게" 만든다고 "인간 멸종: 소멸의 과학과 윤리의 역사"의 저자인 토레스는 말했습니다.

토레스는 “거의 무한한 가치로 특징지어지는 유토피아적 미래 비전을 갖고 이를 목적이 수단을 정당화할 수 있는 일종의 공리주의적 도덕적 사고 방식과 결합한다면 그것은 위험할 것”이라고 말했다.

만약 초지능 기계가 인류를 파괴할 잠재력을 갖고 다시 살아날 수 있다면, 장기론자들은 결과에 관계없이 그것에 반대할 수밖에 없습니다.

지난 3월 현재 X로 알려진 플랫폼인 트위터 사용자가 이 일을 막기 위해 얼마나 많은 사람이 죽을 수 있는지 묻는 질문에 장기론자 이상주의자인 Eliezer Yudkowsky는 "실행 가능한 생식 인구를 형성하는 데" 충분한 사람만 있으면 된다고 대답했습니다.

그는 "그게 사실이라면 언젠가 별에 닿을 가능성은 여전히 ​​있다"고 적었지만 나중에 해당 메시지를 삭제했다.

장기주의는 1990년대와 2000년대 스웨덴 철학자 닉 보스트롬(Nick Bostrom)이 실존적 위험과 트랜스휴머니즘(인간이 기술로 강화될 수 있다는 생각)에 관해 수행한 작업에서 탄생했습니다.

학계의 팀니트 게브루(Timnit Gebru)는 트랜스휴머니즘이 처음부터 우생학과 연결되어 있다고 지적했습니다.

트랜스휴머니즘이라는 용어를 창안한 영국의 생물학자 줄리안 헉슬리(Julian Huxley)는 1950년대와 1960년대에 영국 우생학 협회(British Eugenics Society)의 회장이기도 했습니다.

Gebru은 작년에 X에 "장기주의는 다른 이름의 우생학입니다"라고 썼습니다.

Bostrom은 본질적으로 지능이 떨어지는 사람들이 똑똑한 동료보다 더 빨리 출산하는 "이상유전자적 압력"을 실존적 위험으로 꼽은 후 우생학을 지지한다는 비난을 오랫동안 받아왔습니다.

옥스퍼드대학교에서 인류미래연구소를 운영하는 이 철학자는 1990년대 인터넷 포럼에 인종차별적인 게시물을 썼다고 인정한 뒤 지난 1월 사과했다.

그는 사과문에서 "나는 우생학을 지지하는가? 아니요, 일반적으로 이해되는 용어와는 다르다"고 사과하면서 이 용어가 "지난 세기의 가장 끔찍한 잔혹행위"를 정당화하는 데 사용되었다고 지적했다.

이러한 문제에도 불구하고 해리포터 팬픽을 집필하고 다애인을 장려하는 것으로 알려진 고등학교 중퇴자 Yudkowsky와 같은 장기주의자들은 계속해서 환호를 받고 있습니다.