바실리스크는 수탉이나 코브라 뱀과 비슷한 신화상의 동물로
그 눈을 바로 마주치면 돌로 변하는 석화저주에 걸린다고 하는 괴수
이 아래의 내용에는 내용을 읽는 것 만으로도 당신의 미래를 위험하게 하거나
무섭게 할 수도 있는 위험한 내용이 있으므로 그런 위험을 피하고 싶으면
읽기를 중단하고 즉시 뒤로가기를 누르기 바랍니다.
Roko's Basilisk. 정보위험(Information harzard)의 유명한 예.
원래는 LessWrong 이라는 SF 관련 토론 블로그/게시판에서 나온 개념으로 특히 이성과 분석적 사고로 합리적 의사결정이나 미래의 인공지능 등도 다루는 게시판이이었다. 2010년 Roko 라는 사용자가 한가지 사고실험을 제안했는데 5년에 걸친 길고 격렬한 논쟁 끝에 그 주제에 대한 토론이 금지되었다. 사고실험의 내용은 다음과 같다.
미래에 특이점을 지나 초월적 인공지능이 등장하면 딱히 사악한 AI가 아니고 인간사회를 최적화 하려는 선한 의도의 AI라 하더라도 현재 시대에 그런 초월적 인공지능을 개발하는데 반대하거나 발전을 방해하는 사람들에게 심지어는 충분히 열심히 기여하지 않은 사람들에게 조차 미래에 고문이나 노예화 처형 등 가혹한 처벌을 할 것이라고 예언한 것. 즉 미래의 초월적 AI 가 현재에 사는 인간들을 협박을 하는 사례가 된다. 또 이런 협박을 사전에 들어보지 못한 사람은 어쩔 수 없으므로 용서할 수도 있지만 이런 협박을 듣고도 AI를 반대한 사람은 더욱 가혹하게 처벌할 것이라는 예언을 한다.
이에 대해 미래에 등장할 수는 있지만 아직은 존재하지도 않는 미래의 초월적 AI가 어떻게 아직 그런 AI 가 나오지않은 현재에 사는 사람을 협박을 할수 있냐는 순진한 반론도 있지만 미래에 대한 예언만으로도 인간의 행동을 바꿀 수 있는 뉴컴의 역설 같은 예가 있으므로 미래에 초월적 인공지능이 등장할 것을 믿고 합리적인 사람에게는 이는 분명히 협박이 된다. 아주 먼 미래에 등장한다고 해도 그 자손들을 찾아내서 처벌하겠다는 식으로 협박 가능하다.
이는 이런 예언을 들어보지 못한 사람이나 초월적 인공지능이 불가능하다고 생각하는 사람에게는 이는 협박이 될 수가 없고 또 용서받을 가능성도 있지만 초월적 인공지능의 출현을 불가피하다고 믿고 또 협박을 듣고 이해한 사람에게는 분명히 합리적 위험이고 가중된 처벌을 피하기 위해 그 예언에 순순히 따르게 만드는 협박이 되므로 이는 "그 정보를 듣는 것만으로 위험에 처할 수 있는" 정보위험이 될 수 있다. 또한 이런 예언이나 협박이 더욱 초월적 인공지능의 출현 가능성을 높여주므로 자기실현적 예언이기도 하다. 즉 바실리스크의 눈을 목격한 사람은 돌이 되는 저주에 걸리는 것처럼 이 미래의 AI에 대한 예언 또는 협박을 읽은 사람은 바로 바실리스크의 석화시선을 맞은 거 처럼 저주에 걸리는 셈이 되는 것이다. 이 경우 무지가 지복 열락이 된다. Ignorance is bliss.
기독교의 구원론과 유사한 성격을 가지고 있다. 기독교의 교리상으로는 예수 복음을 전도받은 사람이 구원의 기회를 거절하고 예수를 믿지않으면 반드시 지옥에 가게된다는 것이 기독교의 구원론의 핵심 교리이다. 하지만 미전도종족 등 예수의 복음을 전도받지못해 구원의 기회가 없었던 사람은 사후에 심판의 날에 기회를 받는다든가 연옥에 간다거나 하는 다른 대체 기회를 부여하고 있다. 즉 기독교 복음을 전도하는 행위 자체가 피전도자의 다른 구원 기회를 무효화시켜 이제 기독교를 믿지않으면 반드시 지옥으로 간다는 협박이 되고 이는 기독교인들이 비기독교인에게 기독교를 믿게 강제하는 협박수단으로 효과가 매우 크다.