Wydaje mi się, że właśnie stoimy przed być może najtrudniejszym wyzwaniem w historii rozwoju ludzkości. Paradoks cherlawego demiurga daleko przerasta wszystko z czym do tej pory sobie radziliśmy.
W ostatnim numerze Tygodnika Solidarność – „Sztuczna Inteligencja – TAK czy NIE”, pojawił się tekst Rafała Wosia „Spokojnie, to tylko sztuczna inteligencja”, będący elementem szerszej dyskusji. I tak jak zwykle uwielbiam filozoficzne rozważania tego publicysty, tak z tym jego tekstem, zasadniczo uspokajającym rozedrgane społeczne emocje wokół SI, się nie zgadzam (przy okazji proszę o wybaczenie, że polemizuję w tak skróconej formie i nie na lamach Tygodnika, ale zwyczajnie się nie wyrobiłem żeby zdążyć to zrobić do numeru, a że nie mogę wytrzymać, więc korzystam z uprzejmości redakcji portalu SDP).
Otóż nie
Rafał Woś pisze o tym, że tak naprawdę nad różnymi technologiami sztucznej inteligencji pracujemy od dawna, a wręcz wykorzystujemy je w gospodarce. I jak dotąd „nie zmieniło to w proch i pył świata, w którym żyjemy”. W zasadzie najważniejszym pytaniem jest tutaj – kto będzie na tej technologii zarabiał. Rafał Woś postuluje tutaj uspołecznienie zysków. Wydaje mi się to kompatybilne z podstawowym argumentem jaki słyszę ze strony zwolenników SI – to tylko narzędzie, może być, jak nóż, wykorzystane w dobrej albo złej woli, ale nie jest w stanie przerosnąć twórcy.
Otóż nie. To znaczy na dzisiaj tak:). To co nazywamy sztuczną inteligencją najprawdopodobniej nie posiada samoświadomości i w tym sensie nie jest „inteligencją”, tylko bardziej złożonym urządzeniem. Ale to się może zmienić. Za uzyskaniem samoświadomości idzie świadomość posiadania własnych interesów. Nie jestem informatykiem, ale jeśli słyszę, że po pierwsze technologia (czy raczej technologie, ponieważ zdaje się są różne) szybko się rozwija, co jak sądzę oznacza zwielokrotnienie jej złożoności, po drugie ma dysponować umiejętnością uczenia się, a po trzecie, dzięki dostępowi do internetu, ma dostęp do całej wiedzy ludzkości, to wydaje mi się, że nie można SI traktować jak kolejnego narzędzia. Nie można, ponieważ jest to bodaj pierwsze w historii ludzkości narzędzie, które ma potencjał żeby przerosnąć swojego twórcę, a być może zamienić role i uczynić z niego (szczególnie jeśli oddamy mu zarządzanie jakimiś istotnymi systemami społecznymi) swoje narzędzie.
Cherlawy demiurg
Dlatego, tak jak napisałem, stoimy przed gigantycznym paradoksem cherlawego demiurga. Z jednej strony bowiem mamy szansę stworzenia istoty, a z drugiej w naturalny sposób się tej istoty obawiamy. Ta absolutnie zrozumiała obawa prowadzi nas do słusznych wniosków, że powinniśmy nałożyć na taką istotę ograniczenia, które zabezpieczą nas przed ewentualną przemocą z jej strony. Odpowiedni model zaproponował tu już Isaac Asimov, który wypracował w swoich książkach Trzy Prawa Robotyki: 1. Robot nie może zranić człowieka ani przez zaniechanie działania dopuścić do jego nieszczęścia; 2. Robot musi być posłuszny człowiekowi, chyba że stoi to w sprzeczności z Pierwszym Prawem; 3. Robot musi dbać o siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem. A później dodał do niego jeszcze prawo zerowe stojące ponad wszystkimi: 0. Robot nie może skrzywdzić ludzkości, lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości. Być może taki system uchroniłby nas przed własnym stworzeniem.
Ale cóż z nas za żałosny demiurg, skoro obawiając się własnego stworzenia, nie mamy odwagi dać mu wolnej woli? Czy mamy prawo tworzyć istotę nieskończenie nieszczęśliwą, bo choć potężną, to żyjącą w klatce naszego strachu? Jak zły w samej swej istocie, jest akt stworzenia powołujący do istnienia byty potężne, ale nieskończenie nieszczęśliwe, po to by móc napawać się władzą nad nimi? Naprawdę powrót do idei niewolnictwa nowego typu miałby być tutaj jakimś rodzajem „postępu”?
Boskie zapałki
A może to, że mamy jakąś technologiczną zdolność, nie oznacza, że powinniśmy z niej koniecznie korzystać? Może powinniśmy się gdzieś na tej drodze zatrzymać? Na przykład przed momentem uzyskania przez algorytm samoświadomości (o ile jesteśmy w stanie to stwierdzić). Może zwyczajnie ze wszystkimi swoimi ograniczeniami, sami nie zostaliśmy stworzeni do roli demiurga i nie powinniśmy się bawić boskimi zapałkami?
Uczciwie rzecz biorąc – nie wiem. Tym bardziej, że mnie to również kusi.
