­ ­ 책 소개 : AI지도책, 케이트 크로퍼드

『AI지도책』은 인공지능이 우리의 삶을 편안하게 해주는 단순한 기술이 아니라,
자원 채굴, 노동, 데이터, 감시, 권력 등 사회 전반에 미치는 영향과 그 이면의 숨은 구조적 문제를 파헤치는 책입니다.

AI가 발달하는 것이 우리에게 유익하기만 할까요?
-피폐해지는 환경
-ai를 흉내 내야하는 인간
-우리가 인간임을 끊임없이 설득해야 하는 온라인
-100만마리의 가축에 비유되는 인간
-ai에게 완성품을 검사 받아야 하는 인간
-내 얼굴은 수집되는 데이터일 뿐
-로켓 잔재가 지구 어디에 떨어지든 무슨 상관인가? 먼저 쏘고 그 정보로 발 딛는 자가 진정 그 행성의 임자인가?

­ 단원별로 짧게 살펴보기

어느 정도로만 알았던 ai와 환경간의 상관관계를 좀 더 자세히 살펴볼 수 있습니다.

어떤 분은 데이터 센터와 관련된 자원 소비 및 환경 문제에 대해 남편의 경험을 인용하며 설명했고, AI의 그림자 속에서 우리가 놓치고 있는 진실을 마주해야 한다고 얘기 했습니다.

또 다른 분은 읽지 않는 이메일부터 지우는 실천을 하겠다고 했습니다.

속도

기업들도 ai를 쓰면 뭔가 앞서가 보이는 것 같습니다. 하지만 그 노력이 과도한 나머지 챗봇이 사실은 사람인 경우도 있었고, 초기의 배달 플랫폼도 우리가 앱으로 주문을 하면 플랫폼에서 전화로 가게에 주문을 전달하는 경우도 있었다고 합니다.

데이터

몇달 전 우리는 사람들의 채팅 앱 프로필 사진의 상당수가 지브리 풍으로 바뀌어 있는 것을 보았습니다. 그 대가로 가족들의 사진을 챗gpt에게 제공해 준 결과를 낳게 되었습니다. 아마 생성형 ai는 수많은 사람들의 얼굴을 학습했을 것입니다.

정보를 먼저 수집하고, 데이터를 분류하는 나라가 이끌어 가면 값싼 임금으로 하청 업무를 맡는 나라들도 생겨납니다. 이전의 식민지 시대가 연속되는 것 같습니다.

분류

내가 보고자, 듣고자 하는 정보를 학습한 ai는 나에게 편향된 정보를 주도록 학습합니다. 내가 좋아할만한, 한번 더 클릭하고자 하는 것들을 앞다투어 내 눈앞에 전시합니다. 결국 내가 필요에 의해 정보를 찾는 것이 아니라 누군가 찾아준 정보들을 내 것인양 보고 듣는 것입니다.

감정

ai는 사람의 얼굴을 학습하면서 표정만 보고도 감정을 읽으려고 합니다.

긴장한 얼굴, 우리 회사에 맞을 얼굴, 아픈 얼굴, 별로 좋아하지 않는 얼굴 등.

국가

앞서 사람의 표정을 읽는 ai를 살펴보았는데요, 국기는 이것을 활용해 범죄자를 찾기도 합니다. 하지만 그 범죄 데이터에 들어간 사람은 늘 의심을 받게 됩니다.실수로 잘못된 결과를 초래하더라도 국가는 그 책임을 지지 않고, 데이터 계약 업체가 뒷일을 처리하도록 합니다.

­ ­ 독서모임 by 심사장

ai가 활용되는 세상은 유토피아일까요? 그것을 잘 활용하는 사람에게는 그렇겠지만 그것에 의해 발생되는 환경 오염, 하위 노동자의 비인도적 처우는 디스토피아일 것입니다.

지구의 자원이 바닥나면 인류는 어디로 가야 할까요? 지구를 떠나는 계획을 세우는 것은 두려움 때문입니다.

​독서모임 나눔 중에 이런 이야기도 있었습니다. 인간이 화성에 가면 몇 년 안에 화성이 없어지고, 달로 가면 달이 없어질 것이라는 우스갯 소리도 나왔습니다.
ai에게 일자리를 빼앗기지 않는 분야는 운동선수나 배관공, 간병인, 피아노 조율사 같은 것이라고 합니다.

실제로 한 멤버분 남편의 직장에서 일어나고 있는 일이라고 하는데요, 기획서 한 장을 쓰기 위해 하루가 걸렸다면 지금은 1시간 안에도 가능하다고 합니다. 그럼 직원이 줄어도 상관 없어진다는 겁니다. 하지만 정년이 보장된 직장이라 아무도 나가지 않을 것이다, 그러니 신입 직원을 더 이상 뽑지 말자고 했답니다.

​직장의 보고서도 그런데 학생들의 과제도 마찬가지입니다. ai의 초기 결과물을 그냥 ‘내 말투고 바꿔 줘.’ 라고 한 후 제출하면 끝이라고 합니다.

​AI는 나름의 방식대로 대화를 기억하고 데이터를 축적해 다시 꺼내 씁니다. 이후에는 그것이 AI 로봇 기술의 발전 가능성에 큰 도움이 될 것 같기도 합니다. 또한 위험한 건설 현장의 문제를 해결해 줄 수 있습니다.

반면 AI 시대는 특정 직업군을 사양 산업으로 밀어내고 있으며 그것은 사회 전반에 우려를 만들기도 합니다. 우리 인간은 감정을 공유하고 상대방과 교감합니다. AI가 대체할 수 없는 인간만의 역할이 있는 것입니다.

우리는 이미 우리 삶에 들어온 ai를 현실적으로 내치기는 힘든 세상에 살고 있습니다.

AI를 두려워하거나 배척하기보다, 협력하고 공존할 수 있는 방법을 모색해야 하는데요, 단순 작업은 ai에게 맡기고 창의적인 일, 판단, 공감은 인간이 한다는 식으로 일을 분류할 수 있습니다.

지금 나의 삶의 현장에서 ai와 협업 할 수 있는 부분은 무엇인지 한번 생각해 보면 좋겠습니다.