컴퓨터 과학 및 공학과의 조교수 인 Marcus Botacin 박사가 Chatgpt와 같은 대형 언어 모델 (LLM)에 대해 들었을 때 게임 룰렛은 마음에 들었습니다. LLM은 텍스트를 빠르게 제작할 수있는 AI 유형입니다.
“게임 룰렛 연구원 (또는 게임 룰렛 편집증)이라면 새로운 기술을보고``어떻게 잘못 될 수 있습니까? 사람들이 어떻게 이런 종류의 학대를 할 수 있습니까? ''라고 생각합니다.
올해 초반 프로젝트에서 보타 신은이 게임 룰렛 위협을 해결하기 위해 자신의 LLM을 개발할 계획입니다. 그는 그의 프로젝트를 게임 룰렛 중심적 인 Chatgpt 버전을 구축하는 것과 비교했습니다.
“아이디어는 공격자와 같은 무기와 싸우는 것”이라고 보타 신은 말했다. 게임 룰렛;공격자가 LLM을 사용하여 수백만 개의 도구를 규모로 만들면 규모에 따라 수백만 개의 규칙을 만들고자합니다.게임 룰렛;
맬웨어는 종종 지문과 같은 서명으로 사용할 수있는 고유 한 패턴을 표시하여 식별합니다. Botacin은 LLM이 서명을 사용하여 맬웨어를 자동으로 식별하고 방어하기 위해 규칙을 작성할 계획입니다.
물론 분석가는 분석가를 대체하는 것이 아니라 분석가를 자유롭게 생각하게하는 것입니다. 기계를 안내하고 기계가 분석가를 위해 무거운 작업을 수행하도록하는 것입니다.
보타 신은 여전히 LLM의 소프트웨어 인터페이스 형식을 결정하고 있습니다. 사람들이 다운로드 할 수있는 웹 사이트 또는 소스 코드 일 수 있지만 대중에게 제공 될 수 있습니다. 보타 신은 예방 적으로 사용될 수 있지만 분석가들은이 LLM을 사고 응답에 사용할 것으로 예상합니다.
이 프로젝트는 보타신과 일치합니다혁신적인 접근법 : 네이버예방 접근 방식으로 맬웨어 탐지를 게임 룰렛 하드웨어에 통합하는 곳.
LLM을 노트북에서 실행할 수있을 정도로 작게 만들기 위해서는“주머니에서 실행되는 게임 룰렛rdquo;LLM에는 광범위한 교육이 필요합니다. 개발 중에 더 많은 교육을 수행하면 더 작은 최종 제품이 가능합니다.
보타 신 게임 룰렛의 과학 파트너는 물리 과학 실험실입니다. 그는이 프로젝트를 완료하기 위해 150,000 달러의 보조금을 받았으며,이 프로젝트는 박사 과정에 자금을 지원하고 자신의 실험실에서 학생들에게 자금을 지원할 것입니다.