정리#36.15. AI의 권리(?)
미국 정치를 이해하고 싶다면 기독교와 부채담보부증권 같은 상호주관적 현실을 고려해야 했다. 하지만 앞으로는 미국 정치를 이해하려면 점점 AI가 만들어낸 종교와 화폐부터 AI가 운영하는 정당, 심지어 완전히 법인화된 AI에 이르기까지 상호 컴퓨터 현실을 이해해야 할 것이다. 미국 법체계는 이미 기업을 표현의 자유 같은 권리를 지니는 법인으로 인정한다. 시민연합 대 연방선거위원회 편결(2010)에서 미국 연방대법원은 이것(미국 수정 헌법 제 1조에 명시된 표현의 자유 - 옮긴이)이 기업의 정치 기부 권리까지도 보호한다고 판결했다. AI가 법인화되어 표현의 자유를 갖는 법적 실체로 인정받고 나아가 AI의 권리를 보호하고 확대하기 위해 로비와 정치적 기부를 하는 것을 어떻게 막겠는가?
인간은 감정 이입을 쉽게하는 특성이 있다고 생각합니다. 길을 지나다 우연히 마주하는 민들레를 보고도 기쁨, 슬픔 등의 감정을 쏟아 내곤 하지요. 아마 조만간 AI에게도 이런 감정 이입이 일상화될 것 같습니다. 최근 흥미롭게 보았던 영화 컴패니언이 떠오릅니다. '난 너 없으면 안 돼'라는 마음을 AI에게 쏟는 것이 인간에게 너무나 쉬워 보입니다.
정리#36.16. 로봇 팔
반면 설거지가 특별히 어렵다고 생각한 사람은 아무도 없었다. 하지만 실제로는 컴퓨터가 주방 보조를 대체하는 것보다 세계 체스 챔피언을 꺾는 것이 훨씬 쉬운 것으로 드러났다. 물론 수십 년 전에 자동 식기세척기가 나왔지만, 아직까지는 아무리 정교한 로봇도 바쁜 레스토랑의 테이블에서 접시를 치우고, 식기세척기 안에 깨지기 쉬운 접시와 유리컵을 넣고 꺼내는데 필요한 복잡한 기술을 갖추지 못했다.
근래 들어 식당에서 서빙해 주는 로봇을 자주 만나게 됩니다. 뷔페식당에서는 빈 그릇을 회수하더군요. 식당에 사람이 많아도 요리조리 잘 피해 갑니다. 곧 있으면 팔 달린 로봇이 나올 것 같습니다. 영화 터미네이터에서 나왔던 로봇 팔이 떠오릅니다. 로봇 시장의 다음 체인져는 로봇 팔 같네요. 천천히 세밀하게 움직이되 딱딱하지 않은 재질로 이루어져 있다면 괜찮을 것 같습니다.
정리#36.17. 자정 장치
앞으로 몇십 년 동안 경제는 1930년대 초의 대규모 실업이나 여성의 노동시장 진출보다 훨씬 큰 격변을 겪을 가능성이 높다. 따라서 민주주의의 유연성, 오래된 신화에 의문을 제기하려는 의지, 강력한 자정 장치는 매우 중요한 자산이 될 것이다. 민주주의는 수세대에 걸쳐 이런 자산을 축적했다. 가장 필요한 순간에 그것을 버리는 것은 어리석은 일이다.
이 예상의 전제는 '인간에 의한' 이라는 문구가 포함되어야 할 것 같습니다. 습기가 저며 오듯 AI에 잠식당한다면 이 자정 장치는 작동하기 어려울 것 같습니다.
정리#36.18. 포인트
문제는 알고리즘이 수많은 데이터 포인트(알고리즘이 분석하고 처리하는 개별적인 정보 단위 - 옮긴이)에 의존하여 결정을 내리는 반면, 인간은 수많은 데이터 포인트를 의식적으로 고려하고 비교하는 데 어려움을 느낀다는 것이다. 우리는 단일 데이터 포인트로 작업하는 것을 선호한다. 그렇기 때문에 대출 신청, 팬데믹, 전쟁 같은 복잡한 문제에 직면할 때 우리는 특정 행동 방침을 취할 하나의 이유를 찾고 다른 모든 고려 사항을 무시하는 경향이 있다. 이것이 단일 원인의 오류다.
본능적으로 주된 인과관계를 찾아 해결하려고 합니다. 사소한 것들은 영향이 미미 하다면 무시할 때도 있는데요. 잘못 판단한 경우 사소한 것이 커다란 영향을 미치는 경우도 있습니다. 사소한 것이 쌓이고 있는데 인식하지 못하는 경우가 그렇습니다. 흡연이 가장 좋은 예인 것 같은데요. 당장 끊지 않더라고 별 영향 없어 보이거든요. 알면서도 계속 피웁니다.
정리#36.19. 블랙미러
예를 들어, SF 시리즈 <블랙미러 Black Mirror>의 한 에피소드인 <추락 Nosedive>이 이런 역할을 성공적으로 해냈다.
사회신용 제도에 대해 들어본 사람이 거의 없던 2016년에 재작된 <추락>은 그런 시스템이 어떻게 작동하고 어떤 위험을 야기하는지 훌륭하게 보여주었다.
인상 깊게 시청한 시리즈입니다. 신용점수가 마치 이렇게 작용하는 것처럼 보입니다. 요즘은 드러내 놓고 좋은 직업이 아닌 이상 젊은이가 신용 점수를 올리는 것은 불가능해 보일 정도이지요. 이미 십여 년 전에 이러한 상상을 한 것에 감탄사가 절로 나옵니다. 새롭게 나온 최신 블랙미러도 시청해야겠습니다.
정리#36.20. 전쟁과 작전
러시아의 우크라이나 침공은 1945년 이후 유럽에서 일어난 가장 큰 전쟁이었지만, 공식적으로는 "특별 군사 작전"으로 불린다. 이를 "전쟁"으로 지칭하는 것은 범죄고, 최고 3년의 징역 또는 최고 5,000루블의 벌금형에 처해질 수 있다.
러시아에 들어가 살아보지 않았기에 믿겨지지 않을 정도입니다. 누군가에겐 전쟁이 누군가에겐 작전입니다. 인명피해가 동반되는 것이 작전일까요? 그렇게 믿게 만드는 지배자가 지구상에 존재한다니 현실판 '타노스'와 별반 다르지 않아 보입니다.
정리#36.21. 메시지
정보는 진실이 아니다. 정보의 주된 임무는 현실을 재현하는 것이 아니라 구성원을 연결하는 것이고, 그동안의 역사에서 정보 네트워크는 대체로 진실보다 질서를 우선시했다. 세금 기록, 거룩한 책, 정치 선언문, 비밀경찰 파일 들은 강력한 국가와 교회를 만드는 데 매우 효과적인 수 있지만, 이런 강력한 정보 네트워크는 왜곡된 세계관을 가지고 권력을 남용하기 쉽다. 아이러니하게도, 때로는 정보가 많아질수록 마녀사냥이 극성을 부리기도 한다.
(중략)
우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다.
정보의 홍수 속에 잠겨 있습니다. 선택 장애가 있는것이 아니라 흐릿한 안갯속에서 출구를 찾으려 해도 찾을 수가 없는 것처럼 느껴집니다. 현재는 골라내는 능력이 점점 중요해졌다고 느껴지며 이게 현실이라 생각합니다. 얼마 전까지만 해도 자전거를 하나 구입하려면 여러 곳의 자전거 샵에 방문하여 이리저리 비교해서 골랐다면 지금은 검색만 잘한다면 발품 파는 횟수가 현저하게 줄어들 것입니다. 키드에게 검색하는 방법을 알려주는 것이 더 현명해 보이는데요. 쉽지는 않습니다.
이제 코로나19는 감당 할 수 있기에 사소한 것인가요? 여전히 소아나 노년층에는 위협이 되는 것처럼 보이는데요. 관련 정보가 실시간으로 노출되지 않는 이유는 무엇일까요. 뜬금없이 어디로 연결되어 있는지 궁금해집니다. 이제야 두 번째 감염되시어 여전히 체온이 40도를 오르락내리락하시는 75세의 어르신이 무사히 넘기시도록 잘 들여다봐야겠습니다. 피로가 몰려옵니다.