AI 신뢰성, 의심하고 적극 검증해야 합니다

원문: IT조선 — 유지형 제네시스랩 리더 “AI 신뢰성, 의심하고 적극 검증해야”

IT조선이 주관한 AI 비즈 아카데미 시즌 1 세미나에서 유지형 제네시스랩 리더가 AI 신뢰성 문제를 풀어갈 방법을 소개했습니다. 주제는 “위험해진 생성 AI, 어떻게 활용해야 할까”였습니다.

유 리더는 AI 기술에도 라이프 사이클이 있다고 짚었습니다. 기술이 인명사고 같은 문제를 일으키면 신뢰성은 절망의 골짜기에 빠지고, 전문가들의 노력으로 비로소 지속가능성의 고원에 올라선다는 설명입니다.

신뢰할 수 있는 AI를 가려내기 위한 세 가지 기준으로는 딥러닝 기반 여부, 자체 데이터 파이프라인 확보 여부, 검증 가능 여부를 꼽았습니다. 딥러닝 모델은 스스로 특징을 찾아 판단하기 때문에 특정 요소에 치우치지 않고, 다만 학습 데이터의 질에 따라 편향을 배울 수 있어 다양하고 질 좋은 데이터 파이프라인이 필요하다고 말했습니다.

특히 그는 “AI 신뢰성 문제는 그 문제가 일어나기 전까지 알아차릴 수 없다”며 이용자는 개발사에 데이터·알고리즘·개발 과정의 투명성을 직접 검증해달라 요구해야 한다고 강조했습니다. AI 기업 역시 신뢰성 평가를 지속적으로 의뢰해 현장에 인공지능 개발 안내서를 적용해야 한다고 덧붙였습니다.