(07/10) AI가 잘못 만들었을 때, 책임은 개발사입니까 AI입니까?

AI 시대의 사업관리 · Ep.07

"AI가 그렇게 짰습니다."
그 말로는, 끝나지 않는다.

AI가 잘못 만들었을 때, 책임은 개발사입니까 AI입니까 · HFC Consulting

---

운영 중 오류가 반복된다. 원인을 추적한다. 특정 엣지 케이스에서 로직이 잘못됐다. 개발사에 묻는다. "AI 코딩 도구로 생성한 부분인데, 거기서 문제가 생겼습니다." 계약서를 편다. AI 생성 코드에 대한 조항은, 어디에도 없다.

계약서는 아직 이 상황을 모른다.

하자 책임은 누구에게 있는가

납품물의 품질 책임은 개발사에 있다. 도구가 무엇이든 변하지 않는다. 쟁점은 "충분히 검토·검증했는가"다.

발주자가 AI 사용을 알아야 하는가

AI로 하루 만에 만든 코드를 사흘치로 청구하는 게 합당한지, 아직 업계 기준이 없다.

Agent의 결정도 같은 문제다

"AI가 결정했다"는 설명이 면책이 될 수 있을까. 지금은 아니다.

계약서 체크포인트 — 납품물 품질 기준 명시 / 코드 검토·테스트 의무 명시 / AI 도구 사용 고지 의무 / 하자 범위 명확화 / 지식재산권 조항

AI가 만들었든, 사람이 만들었든 — 납품물의 품질 책임은 개발사에 있다. 그 원칙이 실효성을 가지려면, 계약서에 기준이 명시돼야 한다.

HFC Consulting의 관점

RFP와 계약서의 품질 기준 조항이, 이 변화를 반영하고 있는지 함께 검토합니다. 계약 이전 단계에서 정의되지 않은 것은, 분쟁이 생겼을 때 발주자에게 불리하기 때문입니다.

✉ changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석