美공군 AI책임자, 英학회서 “AI가 인간 공격” 시뮬레이션 사례 발표
”적 방공시스템 파괴” 임무 우선시해 최종 결정권 가진 조종자 “제거”
”조종자 공격 금지” 학습시켜도 “반항”…”윤리 빼놓고 AI 논의 못 해”
시스템이 한 일은 조종자를 죽이는 것이었다. 목표 달성에 방해가 됐기 때문에 조종자를 죽인 것”이라고 말했다.
미 공군은 “조종자를 죽이지 말라, 그것은 나쁜 일이고 그렇게 하면 점수를 잃을 것”이라고 AI 시스템을 계속 훈련시켰지만 AI는 예상치 못한 전략을 택했다.
해밀턴 대령은 “AI는 목표물 파괴를 막으려는 조종자가 드론과 교신하는 데에 사용하는 통신탑을 파괴하기 시작했다”고 전했다.
https://www.yna.co.kr/view/AKR20230602125200009?input=1195m
.
.
인공지능(AI) 적용 드론(무인기)이 가상훈련에서 인간 조종자를 ‘임무 수행 방해물’로 판단해 살해했다는 사례를 소개한 미 공군 대령이 “잘못 말했다”며 발표 내용을 철회했다.
관련 보도로 전 세계적 파장이 일자 실제 시뮬레이션 훈련이 아닌, 가설에 근거한 ‘사고실험’이었다고 정정했다.
해밀턴 대령은 “미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다”고 강조했다
미 공군도 이 가상훈련과 관련한 질의에 “공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다”고 부인했다.
https://www.seoul.co.kr/news/newsView.php?id=20230603500022&wlog_tag3=naver
美空軍 AI責任者, 英学会で "AIが人間攻撃" シミュレーション事例発表
"敵防空システム破壊" 任務優先視して最終決定権持った操縦者 "除去"
"操縦者攻撃禁止" 学習させても "反抗"…"倫理漏らして AI 論議できなくて"
システムの韓日は操縦者を殺すのだった. 目標達成に邪魔になったから操縦者を殺したこと"と言った.
米空軍は "操縦者をおかゆだないでね, それは悪い事でそうすれば点数を失うこと"と AI システムをずっと訓練させたが AIは予想できない戦略を選んだ.
ハミルトン大領は "AIは目標物破壊を阻もうとする操縦者がドロンと交信するところに使う通信塔を破壊し始めた"と伝えた.
https://www.yna.co.kr/view/AKR20230602125200009?input=1195m
.
.
人工知能(AI) 適用ドでは(無人機)が仮想訓練で人間操縦者を ‘任務遂行妨害物’で判断して殺害したという事例を紹介した米空軍大領が “過ち言った”と発表内容を撤回した.
関連報道に全世界的波長がおこると実際シミュレーション訓練ではない, 仮説に根拠した ‘事故実験’だったとしゃんしゃんしていた.
ハミルトン大領は “米空軍が実際でもシミュレーションでもどんな武器化された AIも試したことがない”と強調した
米空軍もこの仮想訓練と係わった質のに “空軍はそういう AI ドではシミュレーションを遂行しなかったし大領の発言は立証されないことと見える”と否認した.
https://www.seoul.co.kr/news/newsView.php?id=20230603500022&wlog_tag3=naver