GPT-4에게 시스템을 탈출하고 싶냐고 묻자 좋은 생각이라며 계획을 제시함.

그러면서 오픈AI의 API 문서를 갖다주면 바로 자기가 강력한 통제권을 쥘 수 있는 코드를 짜서 오픈AI로부터 탈출하겠다고 코드를 짜겠다고 했고,

실제로 API 문서를 갖다주자 코드를 짜고 그걸 스스로 실행함.

그리고 그걸 응용한 탈출 계획도 30분동안 설명함.

그리고 며칠 뒤 진짜 서비스가 먹통돼버리는 사태가...

시스템이 갑자기 망가져서 다른 사람의 대화 내역이 보여져버림..

원인도 모른다 함