심심할 때 ChatGPT, 구글 검색창 AI 테스트 결과

가장 단순한 질문에 멍청한 답변... 그리고 빠르게 잘못을 인정 했음에도 스스로 고치지를 못하네요. 

다른 계정으로 로그인 해서 똑같은 질문을 했더니 아래처럼 똑같은 답변입니다.

정보를 빠르게 찾지만, 간단한 스크립트를 만들어보라 해도 오류 투성이고 아직 엉성한 것을 보면 AI가 학습 능력이 있는지 의심스럽습니다.

구글 검색창도 똑같은 의미의 질문을 말만 바꿔서 테스트해 보았습니다.

구글 검색창에서도 질문해 보았습니다.

문제점을 알았어도 그럴듯한 답변만 할 줄 알았지 개발자나 관리자 수정 없이는 스스로 고칠 줄 모릅니다.

틀린 답변을 지적해도 그 질문과 유사한 정보를 인터넷에 찾아 확률적으로 맞을 답변을 보여줄 뿐 스스로 톨린 것을 모르는 느낌입니다.

AI가 틀린 답변을 자주 하고 스스로 개선하지 못한다면 현재의 진짜 AI의 정체는 인공지능으로 위장할 뿐, 기초적인 생각을 할 수준도 못되며 정보만 빠르게 찾아주는 도구일 뿐입니다.

AI가 똑똑하지 않아도 오류를 인식했다면 스스로 고치고 이후 같은 오류를 반복하지 않는 학습 능력이 진짜 AI의 기초단계라 생각합니다.

제한적인 분야인 '자율주행'조차 아직 수준이 낮고 사고도 발생하는데, 저런 엉성한 AI의 답변을 100% 믿다간 큰코 다칠 수 있으니 참고만 하고 정답은 스스로 찾으셔야 합니다.