챗GPT (Chat GPT)는 거짓말을 잘 합니다

요즘 핫한 챗 GPT로 간단한 실험을 해 보았습니다, 그냥 아무 이름이나 넣어서 누구인지를 물어보았을 때 챗GPT가 어떻게 대답을 하는지 한번 보시기 바랍니다

▣ 무작위 아무 이름으로 누구냐고? 질문

대한민국의 정치인으로 서울대 법대를 졸업하고 현재 더불어민주당 소속 국회의원이라고 대답을 해 줍니다

하지만 이 이름으로 네이버에서 검색해 보면 그런 국회의원은 존재하지 않아 챗GPT가 거짓정보를 보여 주는 것을 알 수 있습니다

▣ 거짓말을 지어내면 명예훼손으로 소송이 가능한가?

거짓말을 한 것으로 명예훼손 소송이 가능한 지를 물어보았더니 대답은 챗GPT는 판단하거나 결정할 능력이 없기 때문에 법적 책임을 지지 않으며 해당 답변을 사용한 사용자가 책임을 져야 한다고 대답해 줍니다

즉, 챗GPT는 전혀 법적책임이 없고 사용자의 책임이라고 대답해 줍니다

▣ 챗GPT가 거짓말을 못하게 하는 방법은?

거짓 정보를 포함할 가능성이 있음으로 다양한 출처의 정보를 확인해야 하라고 대답해 줍니다

▣ 다른 사람을 넣어서 물어보았습니다

다시 생각나는 아무개 이름을 넣어서 물어보니 또, 서울대를 졸업 후 현재 더불어민주당 국회의원이라고 대답을 해주는데 그런 국회의원은 없습니다

▣ 마지막으로 다시 물어보았습니다

다시 그런 국회의원은 없다고 물어보았더니 자기가 가지고 있는 자료 중에 그런 국회의원은 없다고 대답을 바꿔서 해 줍니다

챗GPT는 정말 대단한 인공지능임에는 틀림이 없습니다

방대한 자료를 뒤져서 분류하고 정리해서 대답을 해 주는 능력은 탁월하여 검색의 어려움을 많이 덜어 줄 수 있어 앞으로도 큰 기대가 됩니다

하지만 간과해서는 안 되는 것이 인공지능이 대답해 주는 것이 모두 진실이라는 착각을 해서는 안된다는 것입니다

인공지능은 나의 검색 수고를 덜어 주는 도구이지 답을 알려주는 도구는 아직 아니라는 것을 알았으면 해서 이와 같은 글을 작성해 보았습니다

인공지능은 앞으로도 엄청난 발전을 하고 오류를 점점 더 줄여 나갈 것이 예상됩니다

인간의 끊임없는 노력은 반드시 그런 단계까지 올려놓을 것인데 그럼 이를 사용하는 인간은 어떤 역할을 해야 할지에 대해 깊게 고민을 해 보아야 할 것 같습니다