AI 위임의 핵심은 블랙박스를 화이트박스로 바꾸는 것

우리는 현재 많은 작업을 AI에게 위임하려고 하고 있다. 이때 가장 중요한 것은 AI가 그 작업을 올바르게 수행해줄 것이라는 믿음이다.

그 믿음이 있어야 우리는 AI에게 작업을 맡기고, 더 이상 걱정하지 않으며, 작업 완료 알림이 오기 전까지 다른 일에 몰두할 수 있다. AI를 신뢰하지 못하면 결국 그 작업에 대해 신경 쓰는 일만 늘어난다. AI가 작업하는 동안 다른 일을 하지 못하고, AI가 하는 것을 지켜만 봐야 한다.

어떻게 해야 AI의 작업을 신뢰할 수 있을까

핵심은 AI에게 시킬 일이 어떤 프로세스로 진행되는지 예측 가능하고 설명 가능해야 한다는 것이다.

이를 위해서는 AI에게 추상적으로 지시만 하고 "상세한 과정은 알아서 해주겠지"라는 태도로 끝내면 안 된다. 새로운 작업을 위임할 때는 AI와 함께 그 작업 과정을 고민해야 하며, AI와 내가 둘 다 이해하고 납득할 수 있는 프로세스를 정립해야 한다.

초반 검증의 중요성

프로세스를 정립한 이후에는 몇 번 정도 사람이 AI에게 일을 시켜보며 그 과정을 직접 지켜봐야 한다. AI가 잘 하지 못하는 부분이 있는지 검토하고, 문제가 있다면 AI와 추가 논의를 통해 그 단계를 더 안정적으로 만들어야 한다.

이를 통해 그 프로세스가 높은 확률로 잘 동작한다는 것을 믿을 수 있게 되면, 그 다음부터는 AI에게 편하게 작업을 위임할 수 있게 된다.

결국 인간의 역량이 결정한다

AI에게 작업을 위임하는 데 있어서 프로세스를 정립하는 과정에서 인간의 논리적인 사고가 필요하다. AI와 컴퓨터 시스템에 대한 이해를 바탕으로 그 프로세스가 얼마나 안정적으로 동작할 수 있을지 예측할 수 있어야 한다. 또한 AI가 하는 행동을 끈기를 가지고 초반에 지켜보면서 프로세스를 안정화하려는 노력이 필요하다.

후에 AI가 훨씬 더 똑똑해져서 이런 과정을 거치지 않아도 처음부터 바로 위임할 수 있는 단계가 올 수도 있겠지만, 지금은 AI를 활용하는 인간의 능력이 AI에게 위임한 작업의 퀄리티를 결정하는 것 같다.