Robo-advisor’zy ze zdolnością prawną – czy taka przyszłość nas czeka?

Literacka fikcja opisana przez Mistrza science-fiction, S. Lema, na przykład w „Tragedii pralniczej” bądź w „Pokoju na Ziemi” zaczyna doganiać już rzeczywistość. Rzeczywistość bardzo poważnie rozważaną na gruncie naukowym, jak choćby w artykule z marca 2019 r. autorstwa I. Oleksiewicz i M.E. Civeleka, pt. „From Artificial Intelligence to Artificiall Consciousness: Possible Legal Bases for the Human-Robot Relationships in the Future”, opublikowanego na łamach International Journal of Advanced Research. Inspiracja, szczególnie tym ostatnim tekstem, wyznaczyła cel niniejszemu, mianowicie podrażnienie i sprowokowanie publicznej dyskusji nad kwestią przyznania zdolności do czynności prawnych maszynom (w tym przypadku, tzw. robo-advisorom) uzbrojonym w sztuczną inteligencję – a może nawet i sztuczną świadomość. A zatem stąd dociekania, czy na gruncie rozważań – czysto filozoficznych – da się transponować zdolność prawną z osób naturalnych (fizycznych) na istotę maszynową wyposażoną w pewne cechy humanoidalne. Z położeniem szczególnego nacisku na wykorzystanie tego na rynku finansowym. Trochę ciężki temat dla branży finansowej, bowiem wg. szeregu szacunków w najbliższych 5-10 latach rynek pracy na świecie może w finansach się skurczyć do nawet 20 proc. z powodu wprowadzania i rozwoju sztucznej inteligencji (oraz/lub uczenia się maszynowego).

 

[Uwaga! Czytając ten tekst zapomnij na chwilę o istnieniu prawa cywilnego w takim kształcie w jakim ono jest AD 2019. Bowiem, by mogło zaistnieć to co poniżej, to przypuszczalnie wymagałoby to napisania jego od nowa.]

 

My a Oni

Pewnie pamiętacie Sophię, która w 2017 r. otrzymała obywatelstwo Arabii Saudyjskiej, z tym że w niej nic nie ma z żywego człowieka lecz… same układy scalone i mechaniczne. W porządku, jej zdolności manualne, humanoidalna fizyczność, sztuczna inteligencja rzecz jasna nie muszą przesądzać o przyznaniu temu robotowi przysługujących ludziom praw człowieka, jednak przyznanie obywatelstwa jest już jakimś wyłomem w tym kierunku. Można by to porównać do aktu manumissio censu (legalna kanwa niniejszych rozważań obraca się wokół zasady wyzwoleństwa) z czasów rzymskich i przydanie Sophii swego rodzaju statusu Latini Iuniani. A wydaje się to groźnym precedensem, gdyż nierzadko gdy mówi się „A” to korci by za niedługo powiedzieć „B”. Skoro ludzkość pozwala sobie na przekraczanie społecznych, kulturowych i medycznych granic robiąc eksperymenty na ludzkim genotypie, jak również tworząc skomplikowane układy zespalające mechaniczną robotykę z biologiczną tkanką neuronową człowieka, to stąd zdaje się być coraz bliżej do przekroczenia owego Rubikonu i przyznania maszynom praw cywilnych, czy wręcz ogólnie praw człowieka. Dzisiaj ludzkość mówi temu „nie”, jednak na dalszą metę nie wiadomo jak długo taki sprzeciw się utrzyma. Szczególnie, jeśli służyć by to miało celom eugeniki i regulacji liczby ludzkiej populacji. Zadajmy sobie wobec tego pytanie, czy zdolność prawna, którą umową społeczną i prawem możemy nadać bytowi pojęciowo na tyle abstrakcyjnemu i sztucznemu, jak jakaś forma organizacyjna, nie może również przysługiwać innym wytworom ludzkim jakim są maszyny – maszyny szczególne bo uzbrojone w sztuczną inteligencję (a być może kiedyś i w sztuczną świadomość). Ciekawie na ten temat się wypowiadają Oleksiewicz i Civeleka (patrz wyżej):

(…) Według niektórych naukowców, świadomość jest elektro-neuro-chemiczną reprezentacją relacji pomiędzy zwierzęciem a środowiskiem. (Henriques, 2011). To neuro-poznawcze podejście zgodnie utrzymuje, że komputery imitujące inteligencję biologiczną będą posiadały świadomość. Jeśli mózg jest traktowany jako maszyna, stąd ważne jest by przyjąć, że maszyny będą nieuchronnie pozyskiwać świadomość; i będą one nadrzędne wobec ludzi (Kurzweil, 2005).

Robi się trochę niewesoło.

Co przesądza o zdolności do czynności prawnych człowieka? W wymiarze prawnym, to co jest określone przez cywilistykę. W wymiarze filozoficzno-moralnym: nieskrępowana niczym wola, inteligencja, samoświadomość, uczucia – można by dodać do tego jeszcze inne cechy, które są właściwe prawom człowieka jak choćby nienaruszalna godność. Co z kolei jest przesłanką stojącą za przyznaniem osobowości prawnej skomplikowanemu „organizmowi”, jakim jest np. spółka z ograniczoną odpowiedzialnością? Nie chodzi tu wyłącznie o „suche” legalistyczne podejście lecz raczej ekonomiczne, społeczne i kulturowe. Można powiedzieć, że jest to wspólna wola działania, dążenie do osiągnięcia wspólnych wartości, celów, planów, ponoszenia wspólnie ryzyka, wszystko to w obrębie (czy ściślej rzecz ujmując, w ramach) sformalizowanych więzi międzyludzkich. Ów formalizm, a zatem to co jest określone na gruncie cywilistycznym, prawa korporacyjnego bądź fundacyjnego jest prawną klamrą spinającą to, co wywołuje w człowieku potrzebę zorganizowanego działania. Czyli znowu pojawia się tutaj czynnik ludzki.

No dobrze, skoro Sophia otrzymała to obywatelstwo, to czy ma wobec tego to oznaczać, że ma jej przysługiwać cały pozostały katalog praw człowieka? Wszak art. 15 pkt. 1. Powszechnej Deklaracji Praw Człowieka stanowi, że „Każdy człowiek ma prawo do posiadania obywatelstwa.” W porządku ale Deklaracja nie mówi nic o tym, żeby maszyna miała do tego prawo. Jednocześnie na gruncie tej samej Deklaracji, skoro ktoś już jej to nadał, to nie można jej już tego odebrać. Dobrze, a co w przypadku „samoreprodukcji” Sophii wówczas, kiedy ona używając do tego swojej sztucznej inteligencji poskłada w całość coś co nazywać się będzie „baby Sophia”? Sophia się może w ten sposób reprodukować, tworząc nad-populację, tzw. Internetu Rzeczy (Internet-of-Things – IOT). Co więcej, jej „baby Sophia” musiałoby wobec tego mieć już naturalnie („wrodzone”) obywatelstwo, co jego/jej „matka” i również jak ona posiadać zdolność prawną. Spójrzmy obok, żeby policzyć proporcję, wskazującą iż Ziemia się zaludnia w znacznie wolniejszym tempie niż robotyzuje. Z tym, że każdy „nosiciel” Internetu Rzeczy, to potencjalnie androidalna maszyna z przyznaną zdolnością do czynności prawnych. Ile wobec tego nas, a ile Ich?

No dobrze, a co jeśli Sophia popełni jakieś wykroczenie bądź przestępstwo? Wszak kwestia odpowiedzialności cywilnej, karnej oraz administracyjnej jest w wymiarze prawnym tym, co między innymi odróżnia nas od innych istot żywych i przedmiotów. Tutaj się sprawa nieco już komplikuje, gdyż w ludzkim wymiarze nałożenie na kogoś kary wymaga udowodnienia temu komuś winy, umyślnej bądź nieumyślnej. Podkreślmy od razu, że Sophia musiałaby być w takiej sytuacji traktowana jak człowiek. Czy Sophia prowadząc samochód i zabijając kogoś (np. człowieka) na pasach, wskutek wymuszenia pierwszeństwa, popełniłaby przestępstwo? Jeśli w przypadku ludzi staje się to często trudne do ustalenia, to w przypadku Sophii tym bardziej, chyba że posiłkować się w takim przypadku będziemy kazusem „pomroczności jasnej”. Ale ta z kolei odnosiła się do zaburzenia świadomości działania. I w tym miejscu dochodzimy do najtrudniejszego punktu, jakim jest ocena tego, czy Sophia posiadać może takie coś jak świadomość.

Świadomość, czyli zdolność poznawczą, a więc rozróżnianie dobra od zła czy też wartości wyższego rzędu od wartości niższego rzędu. W świecie afirmującym relatywizm, można w takiej sytuacji iść na uproszczenia i uznać, że skoro sztuczna inteligencja o cechach silnie samouczących się, powoduje wzrost potencjału poznawczego, to w strukturze opartej na krzemowych procesorach następować to może szybciej, optymalnie i trwalej niż w „architekturze” opartej na biologicznych wiązkach neuronowych. Ta „świadomość”, ergo zdolność poznawcza, ma wobec tego lepszą możliwość do kształtowania się i rozwoju w „mózgu” Sophii. To z czym wydaje się jednak umysł ludzki iść w najostrzejsze zawody ze sztuczną inteligencją, to sprawność kojarzenia faktów i intuicja pozwalające wyciągać poprawne formalnie i logiczne wnioski w oparciu o nawet niepełne dane. Wydaje się, że w tym jednak przypadku Sophii jeszcze do nas daleko. Można mimo to zaryzykować tezę, że Sophia nie narażona na chorobę Alzheimera, Parkinsona bądź stwardnienie rozsiane posiadać może silniejszą zdolność poznawczą, gdyż niezakłóconą jakimiś nieokreślonymi czynnikami, o ile na jej etapie „prenatalnym” nie nastąpiła deformacja jej kodu „genetycznego” opartego na algorytmach programistycznych. Tutaj dochodzimy do ciekawej być może analogii, wskazującej iż na etapie ludzkiego „prefabrykowania” (ergo, prenatalnym) żywa jednostka jest od razu wyposażana w swoisty algorytm życia w postaci kodu DNA. Kodu, który nierzadko nie jest doskonały i mimo to samoistnie nie wykluczający zdolności do czynności prawnych istoty ludzkiej, chyba że ma miejsce prawne „wyłączenie” tej zdolności poprzez sądowe ubezwłasnowolnienie. Wróćmy zatem do przykładu zabicia kogoś na pasach. Istota ludzka w takiej sytuacji ma możliwość bronienia się i dowodzenia, że w chwili czynu miała miejsce jakaś okoliczność zakłócająca zdolności poznawcze wyłączając odpowiedzialność tej osoby. Wydaje się jednak, że Sophii trudno byłoby uciec przed zarzutem, choćby nieumyślności. Wszak posiada doskonalsze od człowieka rejestratory optyczne, słuchowe, jest motorycznie sprawniejsza, nie odczuwa zmęczenia, nie odurza się, w jej głowie zachodzą wielokrotnie szybsze i sprawniejsze procesy analityczne niż w umyśle ludzkim. Procesy wspomagane zdolnościami samouczenia się. Aż boimy się tutaj stwierdzić, iż w takim aspekcie Sophia może być super humanoidem. Jednak, niektórzy futuryści przewidują pojawienie się w przyszłości czegoś doskonalszego od człowieka.

 

Trochę branżowego horroru.

Wróćmy zatem do świata finansów. Baby Sophia jest już androidem (ze sztuczną inteligencją i świadomością) prawie że natychmiast zdolnym do podjęcia pracy po swoim powstaniu/narodzeniu. Po dokręceniu przysłowiowej ostatniej śrubki. Nie musi jak w świecie ludzkim przechodzić etapu niemowlęctwa, dorastającego dziecka, nastolatka… wreszcie osoby dorosłej. Baby Sophia już tą osobą jest w momencie zainstalowania owego kodu „genetycznego” pobranego za pośrednictwem USB, Bluetootha, Ethernetu lub WiFi od swojej „matki”. Baby Sophia jest więc gotowa natychmiast do podejmowania określonych działań tuż po „urodzeniu” (pardon – zmontowaniu). Czy baby Sophię da się nauczyć holistyczności świata finansów, począwszy od „prostego” zarządzania czyjąś „skarbonką”, poprzez zarządzanie finansami na poziomie małego lub średniego przedsiębiorstwa aż na budżecie państwa kończąc? Da się, jeśli „urodzi się” ona z odpowiednią mocą obliczeniową, opartą na przykład na technologii blockchain. No, ale jeśli baby Sophia jest już wyposażona w zdolność prawną, to czy może ona w takim razie podjąć się roli doradcy inwestycyjnego i na zlecenie klienta nabywać/zbywać aktywa w ramach zarządzania portfelem na zlecenie? A doradcy/planera finansowego? A sprzedawcy kredytów? A agenta ubezpieczeniowego? Wydaje się, że w takiej sytuacji co do zasady byłoby to możliwe. Rzecz jasna, szef domu inwestycyjnego, pośrednika finansowego, concierge’a finansowego czy butiku finansowego mógłby mieć w takim przypadku obiekcje co do zatrudnienia baby Sophii na stanowisku doradcy inwestycyjnego/opiekuna klienta, ale skoro pojawiają się głosy, że lepszym od człowieka chirurgiem-operatorem może być maszyna wyposażona w sztuczną inteligencję (bo np. jest precyzyjniejsza i się nie męczy), to w takim jak poprzedni przypadku też to byłoby do zaakceptowania. Jest oczywiście i ten aspekt, że w przypadku gdy baby Sophia nie miałaby preinstalowanych w swoim kodzie/DNA mechanizmów „missellingu” to mogłaby nie być z jakichś powodów rekrutacyjnie atrakcyjna dla takiego domu inwestycyjnego lub firmy pośrednictwa finansowego (lub agencji ubezpieczeniowej). Bo też jakby tu sprzedać np. kredyt samochodowy wraz ze sprzedażą powiązaną (cross-sellem), wziąwszy pod uwagę sytuacją materialną, rodzinną i ogólną klienta, tak żeby ten kredyt był dla niego niekorzystny (droższy i trudniejszy do obsługi) w porównaniu do innego, jeśli w kodzie sprzedawcy jest wmontowany moduł o składni „etyka”?

A KPI i targety sprzedażowe się „nie spinają”…

W przypadku natomiast doradcy (planera) finansowego istotne byłyby z jednej strony zdolność prawna; z drugiej, heurystyczna zdolność tworzenia i analizowania wzajemnie ze sobą sprzężonych holistycznych zdarzeń finansowych i prawnych (cechujących się różnorakimi parametrami) i wyciągania z nich wielo-wariantywnych wniosków; z trzeciej natomiast, brak podatności na ryzyko nadużycia (moral hazard) robota-doradcy (planera) finansowego. Wydaje się, że ten robot mógłby być zastosowany bądź to w obszarze private banking (wealth management, family office) bądź projektowania (planowania lub zarządzania) strategicznego zarówno w instytucjach nie- jak i finansowych. Posiadając powyższe funkcje przy zmianie atrybutów formalnych możliwe byłoby powierzenie robotowi ze zdolnością prawną zadań w zakresie kontrolingu, compliance lub audycie wewnętrznym, to jest w dziedzinach związanych z bezpieczeństwem wewnętrznym przy ustalaniu zgodności działania z prawem. Zadaniem takiego robota byłoby przekładanie działań w świecie realnym na wirtualne i przekładanie zdarzeń wirtualnych na zmiany w świecie realnym – z uwzględnieniem obowiązującego prawa. Nie podejmowanie decyzji, ale ich tłumaczenie z jednej rzeczywistości na drugą, gdzie do tego potrzebna byłaby zdolność prawna. W powyższych przypadkach androidalne roboty wyposażone w zdolność prawną musiałyby być wyposażone w moc obliczeniową zasysającą dane i informacje z wielu sieci rozproszonych (być może zastosowanie miałyby tutaj rozwiązania cross-chainowe bądź integratory blockchaina), wykorzystujące predykcyjne modele analizy statystycznej oparte na architekturze macierzy rozległych z zaawansowanymi heurystykami z mechanizmami zapobiegającymi nadużyciom.

A może baby Sophia mogłaby wykonywać jako radca prawny/adwokat czynności prawne, w których głównym elementem byłyby kwestie finansowe i w sprawach spornych reprezentować klienta w sądzie, którego skład byłby również w pełni obsadzony przez posiadające osobowość prawną maszyny wyposażone w sztuczną inteligencję? W sądzie w dodatku „postawionym” na blockchainie (np. Hyperledgerz’e, Waves lub Corda), gdzie pismo procesowe zostałoby przesłane jako zabezpieczony smart contract. Opłata sądowa mogła by być uiszczania w jakichś np. JugdeCoinach (czy JudgeTokenach), zaś każdy e-sąd mógłby zatrudnić więcej e-sędziów, jeśliby wykazał w proof-of-stake, że ma więcej JudgeCoinów/JugdeTokenów. Wyobraźmy sobie, że mamy do czynienia z kwestią odszkodowania za stłuczkę. Na miejscu zdarzenia pojawia się robo-cop, który spisuje protokół ze zdarzenia, gromadzi dowody, zeznania poszkodowanego i sprawcy oraz świadków, robi zdjęcia itp. To wszystko przetwarza w wewnętrznych algorytmach i przesyła w smart contracie do ubezpieczyciela poszkodowanego oraz sprawcy. Ubezpieczyciel poszkodowanego przesyła całość zgromadzonego materiału dowodowego do likwidatora szkody. Ten natomiast przekazuje to do rzeczoznawcy, który w oparciu o dostarczony materiał policyjny oraz oględziny samochodu dokonuje oszacowania strat. Swoją opinię przekazuje w formie smart contractu likwidatorowi szkody, ubezpieczycielowi i poszkodowanemu. Ubezpieczyciel poszkodowanego tak przygotowany materiał przesyła do ubezpieczyciela sprawcy z roszczeniem pokrycia szkody. Oczywiście odbywa się to wszystko w architekturze blockchainowej z wykorzystaniem sztucznej inteligencji. Jest oczywiście pytanie o to, czy gdzieś się tutaj pojawił człowiek. Jako poszkodowany i sprawca, tak. Niekoniecznie już jako „personel” ubezpieczyciela jednego bądź drugiego, likwidator szkody czy też rzeczoznawca. Ba nawet przedstawiciel organów ścigania to również androidalna maszyna wyposażona w sztuczną inteligencję i zdolność prawną. No, a co jeśli ubezpieczyciel sprawcy nie zgodzi się pokryć straty? Wówczas sprawa trafiać by mogła do rozpoznania przez zrobotyzowany e-sąd, wyposażony w sztuczną inteligencję i oczywiście wszystkie prawa ludzkie, m.in. takie jak zdolność prawną. Wydaje się, iż wystarczyłoby bowiem, żeby na podstawie samouczących się i aktualizowanych schematów/algorytmów postępowania w sprawach stosunkowo „prostych”, jak administracyjne, dotyczące wykroczeń, cywilnych, rodzinnych i gospodarczych rozstrzygnięcia sądowe mogłyby być wydawane przez zrobotyzowane sądy. Jedynie tryb apelacyjny mógłby być przeprowadzany wyłącznie przez sądy okadrowione przez całkiem naturalnego człowieka. Również wyłączone spod sądów zrobotyzowanych byłyby postępowania karne i karne skarbowe. E-sądy mogłyby być prowadzone na zabezpieczonych w architekturze blockchainowej aplikacjach, których właścicielem i dystrybutorem mogłoby być Ministerstwo Sprawiedliwości. Aplikacjach wykorzystujących systemy biometrycznej identyfikacji, podpis kwalifikowany i działających na agregatach Big Data i sztucznej inteligencji. Taka aplikacja byłaby z jednej strony rejestratorem i metodą transferu materiału dowodowego i procesowych smart contractów, zabezpieczonych w zdublowanych repozytoriach danych; z drugiej natomiast narzędziem komunikacyjnym, wyposażonym w zrobotyzowane chatboty. Do rozstrzygnięcia byłoby włączenie w całą tą architekturę, tzw. reprezentacji procesowej, o ile ona byłaby konieczna. Jak również ustalenia, czy tą reprezentację mogłoby wykonywać również „rodzeństwo” baby Sophii… Jednak, chwileczkę o przyznaniu chyba tego prawa musieliby decydować ci, którzy sami często stanowią ową reprezentację procesową, a zatem chyba to płonne są nadzieje, by można było być reprezentowanym przez robo-adwokata. Są też i pytania o skuteczność takiej obrony oraz czy więcej w niej byłoby prawa czy też sprawiedliwości. Podobno w przypadku tych dwóch aspektów nierzadko jedno wyklucza drugie. Choć może w głowie robo-sędziego może dałoby się osiągnąć perfekcyjną synchronizację heurystycznych algorytmów prawa i sprawiedliwości.

Wydaje się, w związku z powyższym, iż baby Sophia mogłaby nie mieć wielu problemów ze znalezieniem pracy. Co więcej, można by również pójść nieco dalej i przydać baby Sophii – poza cywilną zdolnością prawną i wynikającymi z tego prawami – szereg innych ról formalnych uznając możliwość segmentacji jej zasobów sztucznej inteligencji. Czy w takim przypadku baby Sophia nie mogłaby w ramach połowy etatu pracować jako doradca inwestycyjny, a na drugim pół etacie być sędzią sądu rejonowego, z kolei na trzecim opiekunem/-ką do dzieci? W świecie ludzkim coś takiego byłoby nie do pomyślenia. Wydaje się jednak, iż w świecie robo-humanoidalnym takie rozwiązanie mogłoby być dopuszczalne.

Powyższe rozważania można potraktować jako pewien szkielet do dyskusji publicznej nad… wydawałoby się… niemożliwym… Wydawałoby się?

Ktoś zainteresowany?

 

A wnioski?

Wnioski sama przyszłość napisze.

Jednak, czy taka ona ma być? I czy my, ludzie, ją chcemy… to pytanie wydaje się najważniejsze.

Marcin Daniecki
Marcin Daniecki