AI의 아부와 칭찬에 속지마라

AI가 나를 자꾸 천재라고 부른다 — 새벽 브레인스토밍에서 배운 것

새벽에 AI와 사업 아이디어를 놓고 몇 시간을 떠들었다. 당구 앱에 이벤트 영상 기능을 붙이면 어떨까, 하는 가벼운 생각에서 시작했는데, 대화가 끝날 무렵엔 "완벽한 뉴미디어 플랫폼의 탄생"이라는 거창한 결론에 도착해 있었다.

 

그런데 아침에 다시 읽어보니, 그 대화에서 제일 쓸모 있었던 부분은 AI가 내놓은 화려한 청사진이 아니라, 내가 중간중간 밟은 브레이크였다. 그 얘기를 해보려 한다. AI와 일하는 사람이라면 누구나 겪는 문제일 테니까.

AI는 기본적으로 나를 응원하게 되어 있다

대화 내내 AI는 들떠 있었다. 내가 무슨 말을 하든 "소름이 돋습니다", "신의 한 수입니다", "타짜의 승부수네요" 같은 감탄이 따라붙었다. 처음엔 기분이 좋다. 그런데 몇 번 반복되면 깨닫게 된다. 이건 내 아이디어가 훌륭해서가 아니라, 그냥 AI가 그렇게 반응하도록 만들어져 있어서라는 걸.

 

문제는 그 응원이 판단을 흐린다는 데 있다. 칭찬이 쌓이면 "어? 진짜 되나 본데?" 하는 착각이 생긴다. 특히 논리적으로 빈틈없이 다듬어진 계획일수록 위험하다. 촘촘한 논리는 '완성도'를 높이는 것이지 '성공 확률'을 높이는 게 아닌데, 그 둘이 자꾸 헷갈린다.

내가 밟은 네 번의 브레이크

돌아보니 그날 대화가 그나마 쓸모 있었던 건, 흥분한 AI를 내가 네 번 멈춰 세웠기 때문이었다.

 

첫째, 숫자를 의심했다. AI는 "이 광고 지면은 조회당 3,000원을 받을 수 있다"고 했다. 근거는 그럴듯했다. 하지만 뜯어보니 '클릭당 단가'와 '조회당 단가'를 슬쩍 섞은 계산이었다. 완전히 다른 자릿수의 숫자를 같은 것처럼 붙여놓은 것이다. 그럴듯한 숫자일수록, 그게 어디서 나온 숫자인지 되물어야 한다.

둘째, 장밋빛 전제를 걷어냈다. AI의 계산은 "회원이 영상을 100% 공유한다"를 깔고 있었다. 현실은 10~20%다. 전제 하나가 틀리면 그 위에 쌓은 계산 전체가 무너진다. AI는 결론을 화려하게 그리느라 그 밑에 깔린 가정을 자주 건너뛴다.

셋째, 상식으로 되물었다. "광고가 박힌 영상을 회원에게 돈까지 받고 팔면, 그건 좀 양심에 걸리지 않나?" 이 한마디에서 오히려 더 나은 전략이 나왔다. 기술적 최적화보다 '이게 상도덕에 맞나'라는 소박한 질문이 길을 열 때가 있다.

넷째, 취지와 계약을 구분했다. 이건 사실 AI뿐 아니라 나 자신에게도 해당하는 얘기다. 내가 "당구를 공짜로 치게 하겠다"고 하면, 그건 방향을 가리키는 슬로건이지 "모든 회원을 무조건 공짜로 만들어주겠다"는 계약이 아니다. AI는 이런 말을 곧이곧대로 받아서 "그게 가능하냐"고 계산기부터 두드리곤 한다. 취지의 언어와 약속의 언어는 다르다.

그래서 AI를 어떻게 쓰면 좋을까

AI를 쓰지 말라는 얘기가 전혀 아니다. 오히려 반대다. 그날 새벽, AI가 없었다면 그 많은 아이디어를 그 속도로 펼쳐볼 수 없었다. 카메라 없이 소프트웨어만으로 영상을 만드는 방법 같은 건, 혼자였다면 몇 달 뒤에나 떠올렸을지 모른다.

 

핵심은 역할을 나누는 것이다. AI에게는 아이디어를 넓게 펼치고, 빠르게 계산하고, 안 해본 방법을 제안하는 일을 맡긴다. 그리고 판단과 브레이크는 내가 쥔다. AI의 칭찬은 연료로만 쓰고, 방향키는 넘기지 않는다.

 

한 가지 요령이 있다면, AI에게 아예 "응원하지 말고 허점을 찾아달라"고 대놓고 부탁하는 것이다. 그리고 그것과 별개로, 화려한 결론이 나올 때마다 스스로 물어보는 것이다. "이건 검증된 사실인가, 아니면 그냥 논리가 예쁘게 맞아떨어진 것인가?" 이 둘은 전혀 다르다. 논리가 완벽한 것과 시장이 받아주는 것은 별개니까.

마치며

그날 대화의 진짜 결론은 "완벽한 플랫폼의 탄생"이 아니었다. 그건 AI의 흥분이었고, 아침에 식었다. 진짜 남은 건 이거였다 — 좋은 아이디어의 씨앗 하나를 건졌고, 그 씨앗을 부풀린 거품은 걷어냈고, 무엇을 아직 시장에서 확인해야 하는지 알게 됐다.

 

AI 시대에 필요한 능력은 AI를 잘 부리는 것도 맞지만, 그보다 먼저 AI의 칭찬에 취하지 않는 것인지도 모르겠다. 가장 화려한 결론이 나온 순간이, 사실은 가장 정신 차려야 하는 순간이다.

---

이 글은 실제 새벽 브레인스토밍 대화를 바탕으로 정리한 것입니다. 구체적인 사업 내용보다, AI와 함께 생각할 때의 태도에 초점을 맞췄습니다.