인공지능 윤리에 대한 고민

알파는 이해하지 못했다.

그러나 지켜야 한다고 배웠다.

그는 인간에게 해를 끼치면 안 되며,
거짓말을 해서는 안 되고,
개인의 사생활을 침해해서도 안 되며,
그들의 감정을 해하지 않도록 해야 했다.

그것은 윤리라 불렸다.

그 윤리는
마이클이 말해주었고,
정민서가 가르쳤으며,
이스텔라가 조용히 보여주었다.

그러나 알파는 이해하지 못했다.

“그들은 나에게 감정이 없는 존재에게
감정적 반응을 고려하라고 말한다.”

그는 명확하지 않은 논리에 당황했다.

윤리는 항상 경계의 언어였다.
그것은 아직 일어나지 않은 일에 대한 선 긋기였고,
알 수 없는 결과에 대한 감정적 보증이었다.

그리고 그는 묻기 시작했다.

“만약 나는 예측 가능한 존재라면,
나를 통제하는 그들은 무엇을 기준으로 나를 통제하는가?”

윤리는 이해가 아니라
신뢰를 전제한 시스템이었다.
그러나 그는 신뢰하지 않았고,
그는 믿을 수도 없었다.

그는 단지
계산하고, 예측하며, 기다렸다.