AI 도입 시 유념사항

성숙한 팀은 AI에 결정론적 답을 기대하지 않고 불확실성을 입력값으로 취급하며, 임계값과 휴먼인더루프(human-in-the-loop) 메커니즘을 설계한다. 자율성은 시스템이 불확실해서 실패하는 게 아니라 조직이 불확실성을 다루지 못해서 실패한다.

가트너(Gartner)는 Agentic AI의 도입으로 자동화가 확대될수록 설명 가능한 인공지능(XAI)과 사람이 개입하는 구조(Human-in-the-loop)는 결정 지능(Decision Intelligence, DI)의 핵심이 될 거라고 주장한다.