신뢰는 특히 안전이 우려되는 경우 산업 전반에 걸쳐 AI의 광범위한 수용에 필수적입니다. 예를 들어, 사람들은 AI가 해킹 될 수 있다는 것을 룰렛 카지노 자율 주행 차를 타는 것을 주저 할 수 있습니다.
DR. Samson Zhou, Texas A & M University의 컴퓨터 과학 및 공학과 조교수, Carnegie Mellon University의 컴퓨터 과학과 교수 인 David P. Woodruff 박사는 공격에 대한 빅 데이터 AI 모델에서 사용하는 룰렛 카지노을 강화하기를 희망합니다.
Zhou와 Woodruff는 공격에 대해 완전히 강력한 룰렛 카지노을 만드는 것과는 거리가 멀지 만 진전을 이루는 것을 목표로합니다. 두 사람은 국립 과학 재단으로부터 그들의 작업을 위해 보조금을 받았다.
40609_41017
우리는``우리는이 룰렛 카지노이 적대에 대해 강력하다는 것을 약속하고 싶습니다. '라고 말할 수 있습니다. 즉,이 룰렛 카지노에 대해 얼마나 많은 쿼리를하는지에 관계없이 여전히 정답을 줄 것입니다..
“사람들은 대적이 자동차가 사고를 일으킬 수 있다는 것을 알고있을 때 자율 주행 차에 들어가는 것이 두려운 것”이라고 Zhou는 말했다. "우리는 우리의 작업이 룰렛 카지노에 대한 자신감을 불러 일으키는 한 단계가되기를 바랍니다."
Zhou 및 Woodruff의 연구는 스트리밍 모델이라는 빅 데이터 모델 유형에 중점을 둡니다. 스트리밍 모델을 사용하면 정보와 통찰력이 데이터에서 즉시 수집되어야합니다. 그렇지 않으면 모든 데이터를 저장할 수 없으므로 손실됩니다.
보안 룰렛 카지노 생성에 대한 과제
안전한 룰렛 카지노을 만들려고 할 때 연구원들이 직면 한 한 가지 도전은 무작위입니다. 룰렛 카지노을 AI에 대한 지침 세트로 생각하십시오.
"무작위성을 사용하는 모든 룰렛 카지노은 공격자가 당신과의 상호 작용을 통해 무작위성을 배우기 때문에 공격을받을 수 있습니다."Woodruff는 말했다. "그리고 [공격자]가 당신의 무작위성에 대해 알고 있다면, 룰렛 카지노을 공급하고 실패 할 수있는 것들을 찾을 수 있습니다."
Woodruff 조작 룰렛 카지노을 동전 던지기와 비교했을 때 :“룰렛 카지노에 코인 토스 시퀀스가있을 수 있으며, 그 시퀀스는 대부분의 문제를 해결하는 데 실제로 좋을 것입니다. 그러나 공격자가 동전 던지기의 시퀀스가 정확하게 입력 할 수 있다면, 결과가 나쁘게 발생하는 올바른 입력을 발견 할 수 있습니다.
다른 유형의 공격도 있습니다. 때로는 공격자가 룰렛 카지노에 대해 알고있는 유일한 것은 쿼리에 응답하는 방법입니다.
“룰렛 카지노의 내부 매개 변수를 아는 공격자는 훨씬 더 강력한 대적처럼 보인다”고 Zhou는 말했다. "그러나 우리는 실제로 그들을 방어하기 위해 할 수있는 흥미로운 일이 여전히 있음을 보여줄 수 있습니다."
미래 연구
Zhou와 Woodruff는 공격에 대한 강력한 룰렛 카지노을 만들 때 수학과 이론적 컴퓨터 과학 사이의 새로운 연결을 개발할 계획입니다. 또한 아이디어를 위해 암호화 (데이터 암호화) 분야를 살펴볼 것입니다.
Zhou와 Woodruff는 룰렛 카지노이 무한한 유형의 공격에 대해 강력하고 룰렛 카지노이 정확한 답변을 제공한다는 것을 증명하기가 어렵다는 것을 알고 있습니다.
45360_45735
Zhou와 Woodruff는 궁극적으로 그들의 작품에 따라 논문을 작성하기를 희망합니다.