W końcu listopada 2023 r. doszło do spektakularnego zwolnienia i – po kilku dniach – równie widowiskowego przywrócenia do pracy Sama Altmana, dyrektora wykonawczego i współzałożyciela spółki OpenAI. Altman to czołowa postać w branży AI, „złote dziecko Doliny Krzemowej”, zwolennik stworzenia bezpiecznej tzw. ogólnej lub silnej sztucznej inteligencji (AGI).

Wydarzenie to przez kilka dni nie schodziło z czołówek światowych mediów. Jak celnie zauważył „Forbes”, to był scenariusz, którego nie powstydziłaby się sztuczna inteligencja.

Wydarzenie podgrzało – i tak gorącą od kilku lat – dyskusję na temat szans i zagrożeń, jakie niesie rozwój AI, ale również wokół prawnych możliwości jej okiełznania.
 

Ostrzeżenia i pytania
 

Podobnej wrzawy medialnej nie wywołała publikacja w marcu 2023 r. listu otwartego podpisanego przez 1000 liderów sektora wysokich technologii IT z Elonem Muskiem i Stevem Wozniakiem na czele (Altmana wśród nich nie było), którzy zaapelowali do światowych laboratoriów AI o natychmiastowe wstrzymanie, przynajmniej na 6 miesięcy, prac rozwojowych nad technologiami potężniejszymi niż GPT-4.

List wywołał spore poruszenie i dyskusje w sektorze AI. Bezpośrednim bodźcem tego apelu było zaprezentowanie przez firmę OpenAI, wspieraną przez Microsoft, kilkanaście dni wcześniej, czwartej wersji programu AI GPT (Generative Pre-trained Transformer), który zachwycił użytkowników zdolnościami prowadzenia „ludzkiej” rozmowy, komponowaniem piosenek i kreowaniem długich dokumentów.

Sygnatariusze listu ostrzegali, że narzędzia sztucznej inteligencji stanowią „głębokie ryzyko dla społeczeństwa i ludzkości”. Zwraca uwagę zwłaszcza jego następujący fragment: „Współczesne systemy sztucznej inteligencji stają się obecnie konkurencyjne wobec ludzi w ogólnych zadaniach i musimy zadać sobie pytania:

• Czy powinniśmy pozwolić maszynom zalewać nasze kanały informacyjne propagandą i nieprawdą?
• Czy powinniśmy automatyzować wszystkie zadania, także te, które dają nam satysfakcję?
• Czy powinniśmy rozwijać nieludzkie umysły, które w końcu mogą nas przewyższyć liczebnie, przechytrzyć i zastąpić?
• Czy powinniśmy ryzykować utratę kontroli nad naszą cywilizacją?

Nie można delegować takich decyzji na nie pochodzących z wyboru liderów technologicznych. Potężne systemy sztucznej inteligencji należy opracowywać dopiero wtedy, gdy będziemy mieli pewność, że ich skutki będą pozytywne, a związane z nimi ryzyko będzie możliwe do opanowania”.

Technologia ChatGPT przyciąga uwagę amerykańskich prawodawców, którzy niepokoją się o jej wpływ na bezpieczeństwo narodowe i edukację. Unijna policja Europol ostrzega o potencjalnym niewłaściwym wykorzystaniu systemu do prób phishingu, dezinformacji i cyberprzestępczości. Z kolei rząd Wielkiej Brytanii przedstawił propozycje „możliwych do dostosowania” ram regulacyjnych dotyczących sztucznej inteligencji. Nad rozwiązaniami prawnymi pochylają się instytucje i organy Unii Europejskiej.

Stanowienie prawa utrudnia fakt, że badania i wdrożenia AI pozostają nie w rękach rządów, ale nielicznych firm dysponujących odpowiednimi zasobami. Systemy AI jest trudno tworzyć, ale jeszcze trudniej zdemokratyzować.

Najistotniejsze zagrożenia AI
 

Pojawieniu się pierwszych rozwiązań w zakresie AI towarzyszyły obawy co do zagrożeń, jakie stwarza ta technologia. Specjaliści wskazują ich wiele:

• brak przejrzystości,
• wpływanie na wybory człowieka i uprzedzenia społeczne,
• naruszanie prywatności,
• zagrożenia bezpieczeństwa,
• koncentrację władzy w rękach kilku korporacji,
• rewolucję na rynku pracy,
• nierówności ekonomiczne,
• zrywanie więzi międzyludzkich,
• uzależnienie od narzędzi AI,
• dezinformację i manipulację.

Wszystkie z wymienionych można sprowadzić do jednego zasadniczego zagrożenia, które wyartykułował Steven Feldstein, profesor na Uniwersytecie Stanowym Boise, a w przeszłości wysoki urzędnik Departamentu Stanu USA: „Na całym świecie systemy sztucznej inteligencji pokazują swój potencjał w zakresie wspierania represyjnych reżimów i wywracania do góry nogami relacji między obywatelem a państwem, przyspieszając w ten sposób globalne odrodzenie autorytaryzmu”.

Widać to zwłaszcza na przykładzie Chin, które za kluczowy element strategii geopolitycznej przyjęły rozprzestrzenianie technologii AI wśród reżimów autorytarnych i nieliberalnych. Znaczenie tej technologii zarówno dla światowych autorytaryzmów, jak i ich demokratycznych przeciwników staje się coraz wyraźniejsze.
 

Autokracje w natarciu
 

W ostatnich latach autokracje osiągnęły nowy poziom kontroli i manipulacji, stosując zaawansowane systemy komputerowe do przetwarzania ogromnych ilości nieustrukturyzowanych danych dostępnych obecnie w Internecie.

Technologie rozpoznawania twarzy, które w czasie rzeczywistym sprawdzają obrazy w ogromnych bazach danych, czy też algorytmy penetrujące media społecznościowe w poszukiwaniu oznak aktywności opozycji – wszystkie te innowacje zmieniają zasady gry politycznej i coraz częściej służą do narzucania kierunku dyskursu i zwalczania politycznych oponentów.

Należy podkreślić, że technologia AI nie jest jedyną wykorzystywaną przez autokratów do celów politycznych. Inne, jak zaawansowana biometria, państwowy cyberhaking i techniki zniekształcania informacji, stosowane w połączeniu ze sztuczną inteligencją, mają równie niepokojące skutki.

Jednak AI ma tę przewagę, że dysponuje możliwościami wyższego rzędu, które integrują i ulepszają funkcje innych technologii w nowy, zaskakujący sposób.

Warto zauważyć w kontekście rozwoju AI, że zmienia się sposób, w jaki autokraci tracą władzę. Liczba zamachów stanu, charakterystycznych dla okresu zimnej wojny, gwałtownie spadła, stanowiąc przyczynę zaledwie 13 proc. upadków „zamordystycznych” reżimów. Najpoważniejszym zagrożeniem dla dyktatur jest niezadowolenie opinii publicznej, wyrażane na ulicach lub przy urnach wyborczych.

Wnioski dla autokratów są jasne: należy przekierować zasoby tak, aby utrzymać kontrolę nad popularnymi ruchami obywatelskimi i fałszować wybory. W tych obszarach technologia sztucznej inteligencji zapewnia kluczową przewagę. Zamiast polegać na siłach bezpieczeństwa represjonujących obywateli, ze wszystkimi kosztami i związanym z tym ryzykiem politycznym, przywódcy stosują narzędzia cyfrowe do monitorowania, inwigilowania i nękania ruchów społeczeństwa obywatelskiego oraz do zakłócania wyborów.

S. Feldstein kreśli trzy scenariusze, w których AI może być przydatna dyktaturom i władzom niedemokratycznym:

• śledzenie powszechnego niezadowolenia i kontrolowanie masowych protestów,
• trzymanie w ryzach niespokojnej prowincji,
• wykorzystywanie dezinformacji do delegitymizacji przeciwników.

Rozprzestrzenianie technologii AI, wzrost represji cyfrowych stanowią poważne wyzwania dla liberalnych demokracji. Kluczowa staje się kwestia, czy narzędzia AI mogą spowodować, że same demokracje staną się bardziej represyjne? Czy pokusa skorzystania z potencjału AI może ostatecznie zniszczyć demokratyczne mechanizmy?

Prawne dylematy. Więcej pytań niż odpowiedzi
 

Demokracje powinny przejąć inicjatywę w rozwijaniu ram regulacyjnych dotyczących AI, bowiem trudno spodziewać się takich działań ze strony Chin czy Rosji, które nie są skłonne do przywdziania gorsetu międzynarodowych przepisów. To jest i będzie niełatwy proces – innowacje technologiczne często prześcigają zdolność organów regulacyjnych do opracowania rozsądnych standardów i wytycznych.

Technologia AI jest narzędziem o „podwójnym zastosowaniu”: można ją użyć do celów szlachetnych, ale także do celów wojskowych i represyjnych. Problem tkwi w tym, że tej technologii nie można precyzyjnie podzielić na oddzielne części: „korzystną” i „szkodliwą”.

Dodatkowa trudność regulacyjna wynika z faktu, że AI koncentruje władzę w rękach kilku cyfrowych gigantów Internetu. To oni decydują, w jaki sposób większość społeczeństw korzysta z Internetu i co sieć im dostarcza.

Kumulacja władzy technologicznej, gospodarczej i politycznej w rękach pięciu największych graczy – Google, Facebooka, Microsoft, Apple i Amazon – zapewnia im nadmierny wpływ w obszarach życia społecznego, istotnych dla budowania opinii: w kręgach władzy wykonawczej, ustawodawczej, społeczeństwie obywatelskim, partiach politycznych, szkole i edukacji, mediach oraz – co najważniejsze – nauce i badaniach. W konsekwencji korporacje technologiczne nie tylko kształtują rozwój i wdrażanie sztucznej inteligencji, ale także debatę na temat jej regulacji.

Określenie, kto może zostać pociągnięty do odpowiedzialności za niekorzystne działania sztucznej inteligencji jest ważne, ale niezwykle trudne. Niektórzy specjaliści eksponują koncepcję „odpowiedzialności rozproszonej”. Jako że operacje AI powstają w wyniku długiego, złożonego łańcucha interakcji między człowiekiem a robotem – od programistów i projektantów po producentów, dostawców i użytkowników, z których każdy ma inne motywacje i wiedzę – można uznać, że wynik sztucznej inteligencji był wynikiem rozproszonego działania.
 

Zapobiegać złu i wspierać dobro
 

Jednym ze sposobów zapewnienia, że sztuczna inteligencja będzie działać na rzecz „zapobiegania złu i wspierania dobra” może być wdrożenie ram etycznych rozproszonej odpowiedzialności, w których wszyscy uczestnicy będą odpowiedzialni za swoją rolę w kreowaniu wyniku AI.

Zaawansowane systemy AI nie tylko wdrażają algorytmy zaprojektowane przez człowieka, ale tworzą własne. Czy istniejące systemy odpowiedzialności przewidują takie sytuacje, czy też należy stworzyć nowe regulacje prawne?

Zgodnie z uchwałą Parlamentu Europejskiego z 2017 r. w sprawie sztucznej inteligencji odpowiedzialność prawną za działanie (lub zaniechanie) sztucznej inteligencji tradycyjnie należy przypisywać człowiekowi: właścicielowi, programiście, producentowi lub operatorowi sztucznej inteligencji.

Jednak problemy pojawiają się przy zaawansowanych systemach, takich jak samouczące się sieci neuronowe. Jeśli programista nie może przewidzieć działania AI, ponieważ w wyniku szeregu procesów sztuczna inteligencja uległa znacznym zmianom w stosunku do pierwotnego projektu, czy może zostać pociągnięty do odpowiedzialności za to działanie?

Pojawia się ryzyko „luki w odpowiedzialności”. Proponuje się m.in., aby programista sieci neuronowej w coraz większym stopniu stawał się „twórcą organizmów programowych”, mającym bardzo niewielką kontrolę poza kodowaniem, ponieważ zachowanie AI odbiega od pierwotnego programowania, a bardziej staje się produktem jej interakcji z otoczeniem.

Ta luka w odpowiedzialności – zdaniem ekspertów – wymaga doprecyzowania i wdrożenia odpowiednich przepisów i zasad etycznych.
 

Robert Nogacki: radca prawny, partner zarządzający, Kancelaria Prawna Skarbiec 
Marek Ciecierski, doktor nauk politycznych, wykładowca akademicki