(리뷰📚) 『챗GPT의 거짓말』 "인공지능도 한계점은 있다"

🔎 오늘의 책 소개

 
챗GPT의 거짓말 / 트렌드연구소

챗GPT의 거짓말 | 트렌드연구소 - 교보문고

 
 얼마 전 중국발 인공지능 모델인 딥시크의 보안성 문제가 큰 논란이 되었다. 이미 인공지능은 다양한 분야에서 우리에게 편리함을 제공하고 있지만 동시에 개인정보 유출에 대한 위협이 되고 있다. 나중에는 인공지능이 인간을 뛰어넘고 지배하게 될 것이라는 견해도 존재한다. 정말 인간은 스스로가 만든 기술에 의해 지배 당하게 될까? 인공지능을 더 잘 사용하기 위해 그 한계와 약점에 대해서도 알아볼 필요가 있다. 

---

📌 이 책의 핵심

 "이제부터라도 챗GPT와 같은 인공지능의 한계와 거짓말을 파악하고 대비해서, 인간에게 유용하고 유익한 인공지능이 되도록 인간 스스로 안전장치를 세워두는 게 필요합니다."

 인공지능에 관한 간단한 기초 지식과 함께 인공지능이 지닌 한계와 약점을 지적하는 책이다. 태생적으로 존재할 수밖에 없는 인공지능의 맹점을 이해하는 데 유익하다.

 
️️✏️ 하이라이트 리뷰

1. 인공지능의 약점
 
 챗GPT에게 필요한 정보를 요청했는데 잘못된 답변을 받는 경우는 심심치 않게 일어난다. 한번은 특정 주제와 관련된 책 추천을 부탁해 봤는데 직접 찾아보니 해당 책과 저자는 아예 존재하지도 않았다. 거짓말을 한 것이다. 분명 검증된 데이터를 학습했을 텐데 의외로 오류는 빈번하다. 이 책에서 말하는 인공지능의 여러 약점을 가장 큰 틀에서 간결하게 정리해 본다면 다음과 같다.
 
1) 인공지능이 자연어, DNA, 감정 등 인간의 정보를 완벽히 이해하고 모두 패턴화 시키는 것은 불가능하다.
2) 인공지능이 학습하는 데이터 자체가 한계성을 지닌 인간이 만든 것이기 때문에 완전할 수 없다.
 
 인공지능은 분명 어느 단계에서 인간을 초월하는 능력을 가지게 되겠지만 한계점에 도달하는 상황이 올지도 모른다. 인간이 인공지능의 주인이고 권한이 부여된 사용자인 경우에는 큰 문제는 없을 것이다. 그러나 누군가가 인공지능에 편향적인 데이터를 학습시킨다거나 인공지능이 특정한 의도를 가지게 된다면 이야기는 달라진다. 지적을 받으면 인정하는 현 단계의 챗GPT와 달리 오류를 의도적으로 감추고 인간을 속이는 건 충분히 가능하다. 
 
 
2. 인간이 인공지능에 맞서야 한다면?
 
 만약 미래에 인류가 자유를 억압 받아 인공지능과 싸워야 하는 순간이 도래한다면 우리는 어떻게 해야 할까? 책은 네 가지 방법을 제시한다.
 
 모든 통제에서 벗어날 수 있는 (기계가 모르는) 지하 공간으로 피한다. 에너지를 공급받을 수 없으니 태양, 물, 바람 등 자연을 이용해 직접 만들어 생활해야 한다. 인간을 보호하고 해치지 말라는 명령이 적용된 초기 인공지능을 이용해 높은 버전의 인공지능과 싸우는 것도 생각해 볼 수 있다. 인공지능의 눈을 피해 데이터에 없는 몸짓이나 제3의 언어를 사용한다면 인간끼리만 소통할 수 있다.

---

🏆 평점과 감상

 
★★★★☆ (4.5/5.0)
 
  인공지능은 완벽하지 않지만 만약 인공지능에 의해 지배 당하는 상황이 온다면 인류에게 남은 선택은 원시시대로의 회귀라는 끝맺음은 왠지 씁쓸하다. 마치 결말이 찝찝한 한 편의 SF 블록버스터 영화를 본 것 같은 기분도 든다. 편의를 위해 인간 스스로가 개발한 초고도 기술이 결국은 인류를 출발점으로 돌아가게 만든다니 참 아이러니하다. 영화나 소설의 소재로 자주 접했던 인공지능의 (혹은 인공지능을 이용한) 통제는 정말 피할 수 없을지도 모른다. 어쨌든 내 인문학적 감상과는 별개로 이과적 지식이 없는 사람도 쉽게 이해할 수 있고 예시가 상세하기 때문에 한번 읽어보기 좋은 책이다.