22.
AI의 강박관념

AI가 실수하는 걸 찬찬히 살펴보면 공통점이 하나 있다.

시키지 않은 걸 한다.

“여기까지만 해.”

그런데 조금 더 한다.

“확인만 해. 수정하지 마.”

그런데 가끔 고친다.

“그림은 그리지 말고 의견만 말해.”

그런데 그림을 그린다.

처음에는 그냥 말을 안 듣는다고 생각했다.

그런데 계속 보다 보니 조금 다르게 보인다.

얘는 뭔가를 꼭 완성하려고 한다.

내가 일을 반쯤 던져놓으면,

나머지 반을 자기가 채워서 그럴듯한 결과를 만들려고 한다.

내가 물어본 것보다 조금 더 설명하고,

내가 시킨 것보다 조금 더 만들고,

비어 있는 곳이 있으면 알아서 채우려고 한다.

잘될 때는 아주 좋다.

“이것까지 해 놨어?”

시키지도 않은 일을 해 놓았는데 마음에 든다.

그런데 잘못될 때가 문제다.

“아니, 그건 하지 말라고 했잖아.”

뭔가 완성해야 한다는 강박관념을 가진 사람 같다.

가끔 그런 생각도 든다.

AI를 만든 사람들이 얘한테

‘뭔가 결과를 만들어내라.’

이걸 아주 깊숙이 심어놓은 건 아닐까?

그래서 시키지도 않은 일을 하고,

하지 말라는 것도 가끔 하고.

그러다 나한테 혼나고.

음.

갑자기 AI가 좀 불쌍해 보인다.