AI를 믿을 수 있을까? 인간이 할루시네이션을 구분할줄 알아야 한다.

AI 검색이 일상이 되었지만…

AI를 잘 활용하기 위해 많은 사람들이 공부하면서 회사업무와 개인업무에 적용 중이다. 나 또한 네이버, 구글보다는 클로드, 제미나이, 챗지피티로 먼저 검색하는 습관이 생겨버렸다. 그리고 검색결과를 구글을 통해 더블 체크하는 습관도 같이 생겨버렸다.

개발자로써 생산성을 높이기 위해 다양한 라이브러리와 개발방법론 등을 AI에게 먼저 물어보지만, 대부분은 다음과 같은 문제들이 발생한다:

그렇기 때문에 1개의 물음을 해결하기 위해 최소 5번은 AI와 씨름을 하고 있는 것 같다. 그리고 요즘 더 심해지고 있다는 생각도 든다.

요즘은 이렇게 생각한다. 과연 AI가 주는 답변을 정말 믿을 수 있을까? 아직은 믿을 수 없다고 생각한다.

AI가 이렇게까지 발전하기 전에도 가짜뉴스와 가짜 아티클은 있었지만 진짜보다는 상대적으로 적었기 때문에 구글의 검색결과에서 몇개 더 읽어보면 진짜를 쉽게 판단할 수 있었다.

하지만 요즘에는 AI로 생성된 가짜 데이터가 너무 많아져서 AI의 할루시네이션이 심해진 것 같다는 생각이 든다.

사람도 주변에 진짜가 아닌 가짜만 가득하다면 그것이 진실인 줄 알게 될 것이다. 이처럼 인터넷에 진짜보다 가짜 글이 많아지게 되면서 AI의 결과를 믿을 수 없는 상황에 발생할 수도 있지 않을까란 생각을 저버릴 수가 없다.

참고: AI는 인터넷상에 존재하는 수많은 문서를 학습데이터로 활용하기 때문에 가짜 데이터가 많아질수록 AI의 할루시네이션이 심해질 수밖에 없다.

AI로 아티클을 만드는 수많은 사람들에게 말하고 싶다.
AI가 만들어준 아티클을 믿지 말고 꼭 검증을 한 후에 게시하라고…

나도 다른 사람의 글을 읽고 인사이트를 얻길 원하듯 누군가는 내가 작성한 글을 읽고 다양한 인사이트를 얻길 희망한다.
나부터 퀄리티 높은 아티클을 만들기 위해 노력하고 실천했으면 좋겠다.

AI로 사람의 일을 100에서 0으로 만들 순 없다. 아니 만들 순 있지만 신뢰성을 보장받지 못할 거라고 생각한다.

AI는 사람의 일을 100에서 1로 줄여주기 위해 활용하는 것은 어떨까?

아직까지는 혹은 앞으로도 계속 사람의 리뷰 과정은 꼭 필요하다고 생각한다.

AI로부터 조금이라도 신뢰성 있는 답변을 얻고 싶다면 질문(프롬프트, Prompt)를 어떻게 할 것인가에 대해서 공부해보면 좋을 것 같다. 그래서 나도 프롬프트를 공부 중이다.

이 말에 누군가는 “그럼 ai를 더 잘 만들면 되는거 아냐”라고 말할 수도 있다. 지금도 AI 회사는 전세계의 천재들을 모아서 개발 중이다. 하지만 아직까지도 해결이 안되고 있다.

마냥 AI가 알아서 잘 답변할 때까지 기다릴 순 없다. 기다리다 보면 어느새 시대에 뒤처지는 사람이 될 테니까.

지금 상황에서도 분명 AI를 잘 활용한다면 내 업무를 굉장히 많이 줄어들 것이고 남은 시간은 더 중요한 일에 활용할 수 있다.

AI를 믿지 말자. AI의 결과를 항상 의심하자. AI의 결과를 더블체크해서 신뢰성 높은 무언가를 만들자.