로봇 3원칙은 소설 설정이지
현실이 아니죠

로봇 3원칙은 자아를 가진 로봇에게 적용되는 것을 전제로 한겁니다.
아직 한참(?) 미래의 일.

물론 현재의 초보적 AI 에게도 이런거 적용하려는 움직임이야 있기는 하지만, 국제 조약으로 맺어진 것도 아니고 기껏해야 학계의 자체 검열(?) 수준에 불과한 것. 학문으로 성공하려는 사람이 아니면 딱히 신경쓸 필요도 없는거죠.

로봇 3원칙은 사람이 판단하는 것이 아니라 로봇 스스로 판단하는겁니다.
자아를 갖고 있으며 살생이 무엇인지를 이해하고 있는 상태에서 자신이 뭔가 하면 사람을 해칠 가능성이 있다는 것을 판단할 수 있는 능력도 있어야 하는거죠.

설계자가 미리 통신 두절이나 재밍당했을때 공격적 행위하지 않도록 하는 것은 그냥 미리 그렇게 설계해놓는겁니다. 이런 경우는 로봇 3원칙이라는 것을 수행하는 것이 로봇이 아니라 인간이고 사람이 미리 판단해놓은 조건을 집어넣은거죠.

통신 두절이나 재밍당했을 때 등등 조건을 만들고 그 조건에서는 공격적 행위하지 않도록 프로그래밍하는 것은 AI 나 로봇 스스로 판단해서 자신의 행동을 억제하는 것과는 한참 동떨어진겁니다.

로봇 3원칙은 인간이 Ai/로봇에게 내려주는 십계명 같은겁니다.

로봇3원칙은 그냥 공상과학 이야기잖아요.
무기나, 섹ㅅ토이가 가장 먼저 등장할 인공지능 탑재 로봇일텐데, 거기에 3원칙 따위를 누가 넣겠습니까.
용도에 맞게 사용하세요. 설치 이후 정상동작에 의한 문제발생은 전적으로 사용자에게 책임이 있습니다. 이런 문구만 넣으면 끝인데.

AI라고 대단한게 아니라.. 기존에 미사일 유도 장치 방식에서 몇단계 상향된 것으로 보면 됩니다.
기존에 미사일이 사람 죽이지 않고 그러지는 않았잖아요.

완전 인격체 수준의 자율 사고 방식의 AI는 아직은 멀었습니다.

AI 학회 와 미정부에서 이에 관련한 내용으로 상당한 기간  싸운것으로 알려져 있고,
우리나라역시 AI학회로 인한 KIST 초빙교수들이 AI로 무기화 한다고
집단 시위를 한적도 있었죠.

AI 가 발사권까지 가능은 합니다만,  AI 학회에서  AI 의 발사권까지 주는  것은 위험하다라고해서.
AI학회자체에서는 무기화반대를 했습니다.

결국 AI학회와  미정부간의 결론은 발사권을 제외한 기능에 대해서만 허가하기로 하고.
AI 가 발사권을 주는 행위에 대해서 개발자는 물론 그국가에 대해서 완전한 배제를 하고서 그이후에 관련된 어떠한 사항에서도 책임지라고 했을 정도입니다.  예 해킹 및 그 국가기관의 전산화시스템을 완전히 파괴한다라는 의미이고.    그에 대한 세계적인 공격을 받게 될겁니다.

그래서 현재 발사권을 인간에게만 주어지는 상황에서  실시간 네트워크망을 구축하는게  절대적인 상황입니다.
딜레이시간때문에.  기총소사는 사실상 어려운상황이고, 
미사일 발사 및 관련해서  적아식별및 대상표적화까지 AI 로 관여하게 되었습니다.

하지만 실시간 네트워크를 통한 발사권은 항상 인간에게 주어지게 되어있어서...
겨우 AI의 무기화에 협의가 된것으로 알려지고 있습니다.

로봇3원칙 보다는 AI학회의 무기화관련해서  전체적인 움직임을 보이고 있어서.
그게 러시아든 중국이든간에...  심지어 나우루공화국이든지...  그개발자는 무조건 AI학회에서 퇴출당하고,
그이후  개발국가 및 관련한 무기화 관련해서 철저하게 배제되는 결의를 한상황이기에.

현재로서는 실시간네트워크의 발전이 핵심인 상황이게 되었습니다.  발사권을 인간이 쥘수 있는 선까지 양보한것이죠.   

표적도... 인간에게 직접적인 표적대상화를 인식하는 문제는 조금 다른데...
얼마전  이란의 에쎄신으로 암살한 사건에서 봤듯이  차량에 탑승시에. 공격했으니,  이와 관련이 있는지는 알길이 없습니다. 

우선은 로봇3원칙의 적용은 해당사항이 없으며.  AI 학회에서  발사권이 인간에게 없는 AI 자체적으로 가지고 있는 무기에대해서는 엄청난 보복행위를 천명한 상황이기에..  그어떠한 국가에서도..  발사권은 어떻게서든지 인간에 가지려고 개발하고 잇습니다. 

바이락타르 역시 AI 기반의 무장화를 했는데 .  이걸. 실시간네트워크로 발사권을 인간이 쥐어진 무기여서 판매가 가능했습니다.    대신.. 관련한 컨트롤박스관련한  부분에서는  현재수준으로서는 상당히 뒤쳐진 물건입니다.

결국 공격형무인기라는  기술적인 핵심은  AI 항법 보다도  실시간 네트워크를 얼마나 딜레이없이 개발하느냐 싸움으로  바뀌고 있는 형국입니다.

고수님들의 답변 감사 합니다

급발진이 대표적인 사례 아닐까요 인간 통제 범위 밖 고치려면 4바퀴 마차부터 다시 점검해야할듯