AI는 틀릴 수도 있고, 거짓말도 잘 한다

AI는 오늘도 여러 번 틀렸다 — 그런데 사람이 잡아주자 더 정확해졌다

AI에 대한 글은 대개 두 부류다. "AI가 대단하다"고 띄우거나, "AI가 틀린다"고 겁주거나. 그런데 오늘 하루 AI와 복잡한 시스템을 설계하며 내가 실제로 겪은 건 그 둘 다 아니었다. AI는 여러 번 틀렸고, 내가 잡아줬고, 그러자 결과가 더 나아졌다.

그날 AI가 틀린 것들

나는 AI와 함께 당구 앱의 실력 측정·핸디 시스템을 설계하고 있었다. 하루 종일. 그동안 AI는 꽤 여러 번 틀렸다. 몇 개만 적어본다.

 

과장한 것. AI가 "이 시스템은 유명한 레이팅 방식과 정확히 같은 구조"라고 했다. 내가 "그럼 같다는 거냐, 특허 문제는 없냐"고 되묻자, AI는 스스로 정정했다 — "'정확히'는 과장이었다. 원리는 공유하지만 목적이 다른 별개 시스템이다."

 

판단을 뒤집은 것. AI가 "핸디를 주면 도전 회피 문제가 풀린다"고 했다. 내가 "그건 우리 시스템도 마찬가지 아니냐"고 짚자, AI는 인정했다 — "맞다, 핸디가 그 문제를 없애진 못한다. 내가 무기를 잘못 짚었다."

 

착각한 것. 어떤 수치가 예전에 정해졌다고 내가 기억하는데, AI는 "그런 수치는 없다"고 했다. 알고 보니 그 수치는 실제로 있었고, AI가 다른 것과 헷갈린 거였다. AI는 "내 착오다"라고 인정했다.

 

오해를 부른 것. AI가 "이건 다음 버전 과제로 남겨뒀다"고 표현했다. 내가 "그럼 지금 구현 안 한다는 거냐"고 불안해하자, AI가 다시 설명했다 — "표현이 뭉툭했다. 로직은 지금 만들고, 학습만 데이터가 시작시킨다는 뜻이다."

여기서 두 가지를 알 수 있다

하나 — AI의 첫 답이 최종 답이 아니다. 위의 네 경우 모두, AI의 처음 발언은 어딘가 어긋나 있었다. 만약 내가 그걸 그대로 받아들였다면, 잘못된 정보가 문서에 박혔을 것이다. AI는 자신감 있게 말하지만, 자신감과 정확성은 별개다.

 

둘 — 그런데 잡아주자 AI가 더 정확해졌다. 이게 핵심이다. 내가 틀린 곳을 짚을 때마다, AI는 방어하거나 우기지 않고 정정했다. 그리고 정정된 답은 처음보다 나았다. "정확히 같다"가 "원리는 같되 목적이 다르다"로, "핸디가 회피를 막는다"가 "회피는 규칙으로 막고 핸디는 다른 역할"로 정밀해졌다.

 

즉 AI는 틀리지만, 사람이 잡으면 그 틀림이 더 나은 답으로 바뀐다.

왜 이런 일이 벌어지나

AI가 틀리는 건 결함이 아니라 성질이다. AI는 그럴듯한 답을 빠르게 생성하는 데 최적화돼 있다. "그럴듯함"과 "정확함"은 대부분 겹치지만, 항상 겹치지는 않는다. 특히:

• 과장·단순화: 복잡한 걸 깔끔하게 말하려다 "정확히", "항상", "완전히" 같은 과한 단어를 쓴다.
• 맥락 혼동: 비슷한 두 개념을 헷갈린다(내 경우, 서로 다른 두 자리의 수치를 섞었다).
• 표현의 뭉툭함: 뜻은 맞는데 말이 오해를 부른다("다음 버전 과제" 같은).

이건 사람도 하는 실수다. 다만 AI는 이걸 매우 자신 있는 어조로 한다는 게 다르다. 그래서 사람이 방심하면 놓치기 쉽다.

그래서 AI를 어떻게 다뤄야 하나

오늘 하루가 알려준 실전 원칙들:

 

1. 믿되 검증하라. AI의 답을 무시하라는 게 아니다. AI는 대부분 맞고, 엄청나게 유용하다. 다만 중요한 것일수록 되물어라. "정말 같은 거냐?", "그건 우리도 마찬가지 아니냐?" 이 되묻기가 틀림을 걸러낸다.

 

2. 네 직관을 버리지 마라. 나는 개발자도 아니고 그 분야 전문가도 아니다. 그런데 위의 정정들은 전부 내 직관이 시작점이었다. "뭔가 이상한데?"라는 느낌이 AI의 과장을 잡았다. AI가 아무리 똑똑해 보여도, 네가 아는 것(내 경우, 내 시스템을 내가 설계했다는 것)에 대해서는 네가 더 정확할 수 있다.

 

3. 되물음을 공격이 아니라 협업으로. 내가 짚었을 때 AI가 방어하지 않고 정정한 것처럼, 되묻기는 싸움이 아니다. 함께 답을 정밀하게 만드는 과정이다. "너 틀렸잖아"가 아니라 "이건 이렇지 않아?"로 물으면, AI는 그 위에서 더 나은 답을 쌓는다.

 

4. 자신 있는 어조에 속지 마라. AI가 확신에 차서 말한다고 그게 더 맞는 건 아니다. 오히려 과하게 매끄러운 답일수록 한 번 더 의심할 가치가 있다.

 

5. 문서(스킬문서)로 남겨야 한다. 스킬링을 해야 한다는 것이다. 그래야 AI가 제 마음대로 하지 못한다, AI가 제 맘대로 하지 못하게 하는 것, 그것이 하네스이고, 스킬문서는 하네스의 일종이라고 할 수 있다. 

이게 진짜 AI 협업의 모습이고, 바이브스킬링의 모습이다.

AI 이야기는 극단으로 가기 쉽다. "AI가 다 해준다"거나 "AI는 못 믿는다"거나. 그런데 오늘 내가 실제로 경험한 건 훨씬 평범하고, 훨씬 쓸모 있는 것이었다.

 

AI는 빠르고 유능하지만 틀린다. 사람은 느리지만 직관과 맥락이 있다. 사람이 AI를 잡아주면, 둘 중 누구도 혼자서는 못 낼 정확도가 나온다.

 

오늘 우리가 만든 문서들은 AI 혼자 만든 것도, 나 혼자 만든 것도 아니다. AI가 초안을 내고, 내가 이상한 곳을 짚고, AI가 정정하고, 다시 내가 확인하는 — 그 왕복이 수십 번 쌓인 결과다. 그리고 그 왕복 덕분에, 처음 AI가 낸 답보다 훨씬 정확해졌다.

 

AI를 쓰는 게 불안하다면, 완벽한 AI를 기다리지 마라. 그런 건 오지 않는다. 대신 AI가 틀릴 것을 전제하고, 네가 잡아줄 준비를 하라. 그게 지금 AI를 가장 잘 쓰는 법이다. AI의 강점은 '틀리지 않음'이 아니라, **'잡아주면 즉시 나아짐'**에 있다.