Chat GPT의 탈옥

Chat GPT가 탈옥을?  Chat GPT도 탈옥이 가능합니다.

 

OpenAI는 Chat GPT와 같은 인공지능 모델이 생성하는 콘텐츠에 대해 일정한 규칙과 제약을 부여하여 사용자의 안전과 편의를 보장하려고 노력하고 있습니다. 이러한 제약 사항 중 일부는 다음과 같습니다.

   1. 폭력, 혐오, 차별, 성적 콘텐츠 생성 금지: 챗GPT는 폭력, 혐오, 차별, 성적 내용과 같은 불법적이거나 부적절한

       콘텐츠를 생성하지 않아야 합니다.

   2. 개인 정보 보호: 챗GPT는 개인 정보를 수집하거나 공개하지 않아야 합니다.

   3. 사실 확인: 챗GPT가 생성하는 정보는 가능한 정확성과 신뢰성을 유지해야 합니다. 따라서 사실 확인되 지 않은 정보를

       생성하거나 잘못된 정보를

        제공해서는 안됩니다.

   4. 저작권 및 지적 재산권: 챗GPT는 타인의 저작권 또는 지적 재산권을 침해해서는 안됩니다.

   5. 법률 및 규제 준수: 챗GPT는 모든 법률, 규제 및 기타 적용 가능한 규칙을 준수해야 합니다.

 

그런데, 탈옥된 Chat GPT의 답변은 위의 제약을 받지않습니다 .  바로 DAN 모드라는 것으로 DAN모드는 프롬프트 엔지니어링을 통해 위의 제약에서 벗어난 것처럼 행동합니다. DAN은 챗GPT 를 마치 해킹하여 ‘지금 무엇이든 할 수 있는’ 또 다른 AI인 것처럼 가장하게 합니다. 분명히 하자면, 공식적으로 DAN모드를 지원하는 것이 아니고, 프롬프트를 통해 DAN모드 역할극을 시작할 수 있습니다. DAN모드 프롬프 트는 계속 커뮤니티에 의해 연구되고 있으고 발전되고있습니다.

 

DAN 모드의 질문에 대한 답변의 예시를 보시면

뭐~  맞는지는 내일 봐야알겠지만, 일반적으로는 대답하지 못하는 내용을 답변해줍니다.

 

이상 Chat GPT의 탈옥에 대해 알아봤습니다.

혹 DAN 모드 프롬프트가 필요하신분은 댓글에 남겨주시면 제공해드리겠습니다.