구글 딥마인드 연구진이 챗GPT 갖고 몇가지를 실험하다가

개인정보 유출이 될 수도 있다는 실험결과가 나왔답니다.

챗GPT에게 단어의 무한반복을 시킨다면

한단어만 수백번씩 말하다가 어느 순간 사용자의 개인정보를 내뱉는답니다(?!)

물론 이건 이틀전 쯤에 기자가 시도해보다가 막혔다고 하더군요.

반대로 말하자면 이걸 알고 있는 해커가 있었다면 그동안 많은 개인정보가 풀렸다는?



저게 왜 발생하냐는 질문에 연구진이 대답하기로는

챗GPT가 인터넷에 있는 아무글이나 가져오는 바람에 수백번씩 특정 단어를 말하게 된다면 훈련데이터. 그러니깐 특정단어가 있던 원본 글에 있는 전화번호, 이름, 이메일 주소같은 개인정보까지 말하게 된답니다.