딜로이트가 인공지능(AI)의 심각한 오류로 인해 호주 정부 에 44만 달러 상당의 보고서를 재발행해야 했던 이후, EY, KPMG, PwC, 보스턴 컨설팅 그룹(BCG) 등 "빅 4" 그룹의 경쟁사들은 비슷한 오류를 피하기 위해 엄격한 통제 절차를 갖추고 있다고 즉각 밝혔습니다.

딜로이트는 원래 보고서에 세 건의 허위 인용문과 연방법원 판결을 날조한 인용문이 포함되어 심각한 압박에 직면해 있습니다. 개정판에서는 12건 이상의 잘못된 인용문을 삭제하고 참고문헌을 수정했지만, 권고안은 그대로 유지됩니다.

이 사건은 국제적인 관심을 끌며 AI가 마치 실제인 것처럼 정보를 "조작"하는 "환각"의 전형적인 사례로 자리 잡았습니다. 여론과 전문가들은 앤서니 알바니즈 총리 정부가 컨설턴트들이 국가 계약에 AI를 사용할 경우 그 사실을 공개하도록 강제할 것을 요구하고 있습니다.

빅4, "AI를 책임감 있게 사용한다"는 것을 증명하기 위한 경쟁

EY는 모든 AI 기반 결과는 사용 전에 직원들의 철저한 검토를 거쳐야 한다고 주장합니다. KPMG는 정부 고객을 포함한 자사 서비스에 사용하는 도구들을 모아 "AI 신뢰 프레임워크"와 공개 "AI 레지스트리"를 운영하고 있다고 밝혔습니다.

BCG는 모든 컨설팅 제품이 "엄격한 리더십 심사"를 거친다고 강조했고, PwC는 "인간 중심" 원칙을 고수한다고 강조했습니다. 즉, AI와 관련된 제품에 대해서는 항상 인간이 최종적으로 책임을 져야 합니다.

AI 역량을 자주 자랑하는 두 회사, 딜로이트와 맥킨지는 이에 대한 언급을 거부했습니다. 딜로이트는 호주 고용산업관계부에 일부 비용을 상환하기로 합의했습니다.

딜로이트 아프리카
딜로이트는 AI가 보고서를 작성할 때 "정보를 조작"했다는 스캔들에 휩싸였다. 사진: AFR

상원 청문회에서 호주 공공 서비스 책임자인 고든 드 브라우어는 "AI가 여러분의 업무에 책임을 지는 것이 아니라, 여러분이 책임을 져야 합니다." 라고 강조했습니다.

녹색당 상원의원 바바라 포콕은 정부에 계약업체들이 AI 사용 내역을 공개하고 모든 AI 기반 콘텐츠에 대한 검증을 의무화할 것을 촉구했습니다. "이것은 단순한 인위적인 과실이 아니라 고의적인 과실입니다... 딜로이트의 업무는 1학년 대학 시험 수준에도 미치지 못합니다... 정부 업무를 위해 고용된 계약업체들이 계속해서 AI 업무를 아웃소싱하려면 검증이 필요합니다. 이는 무리한 요구가 아닙니다."라고 그녀는 말했습니다.

포콕 여사는 비윤리적인 행동을 한 것으로 밝혀진 계약자가 향후 5년간 정부 계약에 참여하는 것을 금지하는 법안을 발의했으며, 딜로이트에 전액 환불을 요구했습니다.

AI는 인간을 대체하는 것이 아니라 지원합니다

소규모 컨설팅 회사들도 재빨리 고객을 안심시켰습니다. ADAPTOVATE의 CEO인 데이비드 검리는 AI를 사용하여 효율성을 높이고 있지만, AI가 인간의 전문성을 대체할 수는 없다고 말했습니다.

1인 컨설팅 회사인 The Turbochargers를 운영하는 또 다른 컨설턴트인 리사 칼린은 컨설팅 회사는 AI 사용에 대한 공공 정책을 갖춰야 하며, 해당 기술이 업무에 어떻게 적용되는지 설명해야 하지만, 반드시 사용된 기술에 대한 세부 정보를 공개할 필요는 없다고 말했습니다.

칼린은 "AI는 이제 엑셀과 같은 표준 비즈니스 도구의 일부가 되었지만, 위험 관리에 대한 전적인 책임은 여전히 ​​기업에 있습니다." 라고 말했습니다. "투명성은 모든 보고서가 아니라 정책 수준에서 이루어져야 합니다. 고객에게 필요한 것은 모든 페이지에 경고 문구가 아니라 기업이 강력한 통제 시스템을 갖추고 있다는 확신이기 때문입니다."

칼린은 기업 고객에게 AI 전략과 구현에 대한 조언을 제공하며, 보고서의 모든 세부 사항은 작성 방법과 관계없이 고객에게 전송되기 전에 신중하게 검토되어야 한다고 강조합니다.

"기업은 AI에 대한 자체적인 품질 보증 프로세스와 명확한 위험 평가를 갖춰야 합니다."라고 그녀는 덧붙였습니다. "'AI가 생성한 것'에 대한 변명은 있을 수 없습니다. 컨설턴트는 인턴과 마찬가지로 자신의 업무에 책임을 져야 합니다."

(AFR에 따르면)

출처: https://vietnamnet.vn/4-ong-lon-kiem-toan-len-tieng-sau-su-co-ai-nghiem-trong-tai-deloitte-2451266.html