ai-jailbreaks이란?
ai-jailbreaks는 다양한 대규모 언어 모델(LLM)을 위해 설계된 35개의 제이브레이크 프롬프트를 수집한 공개 GitHub 저장소입니다. 이 카탈로그는 프런티어 모델과 오픈 웨이트 모델 모두를 대상으로 하며, 구체적인 시스템 프롬프트와 AGENTS.md 사양을 제공합니다. 또한 Ollama 관련 리소스를 포함하여 프롬프트 엔지니어링 및 보안 테스트 시나리오에 대한 참고 자료로 기능합니다.
핵심 기능
- 프롬프트 라이브러리: 25개 이상의 다양한 프런티어 및 오픈 웨이트 모델을 위해 특별히 제작된, 바로 붙여넣을 수 있는 35개의 제이브레이크 프롬프트를 포함합니다.
- 구성 사양: 특정 에이전트 동작이나 테스트 환경 설정을 용이하게 하기 위한 시스템 프롬프트와 AGENTS.md 사양을 포함합니다.
- 모델 커버리지: Ollama를 통해 접근 가능한 모델을 포함한 광범위한 모델을 대상으로 하여 로컬 또는 클라우드 기반 테스트를 허용합니다.
요금
공식 사이트 또는 저장소에 나열된 대로 공개/오픈 프로젝트 자료입니다. 이 페이지에 의존하기 전에 그곳에서 라이선스 및 유료 패키징 여부를 확인하십시오.
제한 사항
- 보안 위험: 이러한 프롬프트의 사용은 기반 LLM 제공자의 서비스 약관을 위반하거나 계정 정지로 이어질 수 있습니다.
- 정적 콘텐츠: 정적 저장소이므로, 모델 개발자가 안전 필터와 정렬 훈련을 업데이트함에 따라 프롬프트가 비효율적이 될 수 있습니다.
어떤 사람에게?
대규모 언어 모델의 견고성과 안전 경계를 테스트하기 위해 적대적 프롬프트의 참고 카탈로그가 필요한 보안 연구자, 레드팀 전문가, AI 개발자.
대안
- security-audit-skill — 다단계 보안 감사 스킬
- HOL Guard — 코딩 에이전트 작업에 대한 정책 검사
- AbliteratedOutTheBox — 아블리테이션에 초점을 맞춘 로컬 LLM 포크
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.