인공지능에서 이런 찐빠가 나면 분명히 조건설정의 문제임
그런데 문제는 어떤 조건설정을 빼먹어서 무슨 찐빠가 날지를 모른다는 것
인간의 생명을 다루는 군사병기에서 이런 점은 엄청난 문제지
총기 하나만 해도 트리거 핑거니 세이프티니 하며 난리쳐야 하는 건데

인간의 경우는 (대개) 사회적 규율이 기본적으로 내재되어 있어서 이런식으로 예측 못한 행동은 잘 안 함
버스 타려 줄 서있는데 뒤에 사람이 갑자기 나를 버스에 밀칠거라 걱정하지 않는 건 사회적 규율과 신뢰가 있어서 그런거지
그러니까 음주운전처럼 규율을 위반하는 행위는 사회 전체를 위협하는 거고

근데 인공지능에게 조건형성을 넘어 사회적 규율이나 윤리관을 깔아주는 게 힘든게 인간들은 이런걸 그냥 "당연하게" 수행해서
인공지능에게 교육시키기가 까다로움
"당연하기" 때문에 수학적, 논리적으로 설명하라 하면 무지 힘들거든
같은 원리로 공감 등의 능력이 결여된 사이코패스들한테 도덕, 윤리를 설명하려 하면 못 알아들음
그래서 현재의 최선은 가중치 갖고 장난치는 조건설정 뿐인데
전술했듯이 이러면 어떤 조건 설정 안 했다고 무슨 찐빠가 날지 몰라서

그래서 군사분야에서 인공지능은 원문 사례처럼 "오퍼레이터가 가능한 거리까지 드론을 보내고 ai는 재밍 시 앞에 있는 제한된 목표물 중에 식별" 식으로 인간이 계속 보조해줘야 할 것 같음
조건설정 없이도 알아서 피아식별 잘 하면서 작전할 수 있는 강 인공지능 수준까지 나오려면 아직은 멀었고

요약하면 ai에 완전히 맡기기에는 뭘 뺴먹어서 무슨찐빠가 날 지 모르기 때문에 위험하고 인간-ai 혼용이 현재로서는 최선이다 정도
여기서 이상으로는 현재로선 추가로 생각나는게 없네