Sztuczna inteligencja jako podmiot praw własności intelektualnej? PDF

KRZYSZTOF CZUB Sztuczna inteligencja jako podmiot praw własności intelektualnej? Detektyw Del Spooner: Czy robot potrafi napisać symfonię? Czy robot jest w sta- nie za...

KRZYSZTOF CZUB Sztuczna inteligencja jako podmiot praw własności intelektualnej? Detektyw Del Spooner: Czy robot potrafi napisać symfonię? Czy robot jest w sta- nie zamienić płótno w piękne arcydzieło? Robot Sonny: Czy ty potrafisz?1 1. Wprowadzenie. Artykuł stanowi próbę określenia aktualnego i docelowego statusu podmiotowego sztucznej inteligencji w kontekście twórczości intelektualnej. Bezpośrednim bodźcem do podjęcia oma- wianej tematyki stało się kilka zdarzeń prawnych. W RPA 24.06.2021 r. oficjalnie zaakceptowano zgłoszenie patentu na wynalazek pt. „Pojem- nik na żywność oraz urządzenia i metody przyciągania większej uwagi” (nr ZA202103242B), ze wskazaniem jako twórcy systemu sztucznej in- teligencji DABUS. Ponadto 30.07.2021 r. ten sam system został uznany przez Sąd Federalny Australii (w sprawie Thaler v. Commissioner of Pa- tents FCA 879) za twórcę wynalazku nr 2019363177. Analizując przedmiotową problematykę, należy również mieć na uwadze okolicz- ności faktyczne związane z niezwykle szybkim postępem wykorzystywa- nia technologii sztucznej inteligencji w dziedzinie szeroko rozumianego prawa autorskiego. Sytuacja ta zaczyna nosić znamiona powszechności i dotyczy różnych obszarów – od utworów wyrażanych słowem (wypra- cowań szkolnych, prac dyplomowych, opinii, utworów naukowych, lite- ratury pięknej), przez sztuki plastyczne (malarstwo, rysunek, grafikę), fotografię, muzykę, po wytwory nowych technologii. Potwierdzeniem tego trendu jest uznanie przez Indyjski Urząd Prawa Autorskiego oraz Kanadyjski Urząd Własności Intelektualnej współautorstwa sztucznej inteligencji o nazwie RAGHAV (Robust Artificially Intelligent Graphics and Art Visualizer) w odniesieniu do grafiki pt. SURYAST. Na szczególną uwagę zasługują prowadzone od dłuższego cza- su prace nad przyjęciem w Unii Europejskiej regulacji prawnych po- 1 Cytat z filmu pt. „Ja, robot”, USA 2004, reż. A. Proyas. PAŃSTWO i PRAWO 10/2023 3 święconych ramom aspektów etycznych sztucznej inteligencji, robo- tyki i powiązanych z nimi technologii, odpowiedzialności cywilnej za sztuczną inteligencję, a także prawom własności intelektualnej w dzie- dzinie rozwoju technologii sztucznej inteligencji. W toku tych prac po- wstała niezwykle ciekawa koncepcja tzw. osób elektronicznych, która – jak się wydaje – wymaga przybliżenia i oceny w świetle omawianej problematyki. Aktualnie nie jest możliwe jednoznaczne przesądzenie kwestii podmiotowości sztucznej inteligencji. Wynika to z braku dostatecznych podstaw prawnych dla odnośnej konstrukcji, a także braku wystarcza- jącej wiedzy na temat SI i jej potencjału (mimo pewnych oczywistych cech, które są już znane, u progu przełomu technicznego trudno prze- widywać wszystkie kierunki rozwoju tej technologii i możliwy stopień jej zaawansowania, zwłaszcza w interakcjach z ludźmi). Z tych przyczyn publikacja ma na celu zasygnalizowanie problematyki i podjęcie pró- by jej osadzenia konstrukcyjnego w systemie prawa, a także generalne wskazanie możliwych kierunków przyszłych rozwiązań legislacyjnych oraz praktyki stosowania prawa. 2. Sztuczna inteligencja jako zjawisko kulturowe. Tematyka sztucznej, pozaludzkiej inteligencji2 jest obecna w historii ludzkości nie- mal od zawsze. Źródłem przekazu były początkowo księgi natchnione, baśnie i legendy, a z czasem – wraz z rozwojem techniki – coraz bardziej osadzona w rzeczywistości literatura fantastyczno-naukowa i, często ba- zujące na niej, dzieła filmowe. Wzmianki o obcych w stosunku do ludzi istotach, które często są ich tworami i są z nimi szczególnie związane, można dostrzec w Biblii, Talmudzie, mitologii greckiej. Szczególnie in- teresująca jest legenda golema, traktowanego z jednej strony jako osob- ny byt podporządkowany człowiekowi-stwórcy, a z drugiej – jako pewne stadium stworzenia samego człowieka (Adama)3. Najbardziej znanym upostaciowieniem golema jest mityczny stwór powstały według trady- cji żydowskiej w drugiej połowie XVI w. podczas ataków na praskich Żydów. Rabin Jehuda Löw ben Bezalel, znany także jako Maharal, stwo- rzył glinianego golema dla obrony uciemiężonych braci w wierze. Po wykonaniu zadania golem zbuntował się przeciwko swojemu stwórcy i tym, których bronił. W końcu został unicestwiony przez swojego kre- 2 Termin „sztuczna inteligencja” i poświęcona jej dyscyplina naukowa zrodziły się w trakcie Letniego Projektu Badawczego Dartmouth dotyczącego sztucznej inteligen- cji z 1956 r. – zob. J. McCarthy, M.L. Minsky, N. Rochester, C.E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, http://raysolomono- ff.com/dartmouth/boxa/dart564props.pdf (dostęp: 2.09.2023 r.). Zob. też E.L. Rissland, Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning, The Yale Law Journal 1990, nr 8, s. 1958–1961. 3 Zob. M. Krawczyk, Golem. Analiza korzeni nowożytnej legendy żydowskiej, Zeszy- ty Naukowe Uniwersytetu Jagiellońskiego. Studia Religiologica 2007, nr 40, s. 119–133. 4 PAŃSTWO i PRAWO 10/2023 atora. W jednym z mitów greckich posąg kobiety wyrzeźbiony z kości słoniowej przez króla Cypru, Pigmaliona ożywiony na skutek pragnień swojego stwórcy oraz boskiej pomocy Afrodyty podczas wiosennych ob- chodów jej święta. Tak stworzona Galatea zostaje żoną Pigmaliona. Mi- tologia zawiera więcej odniesień do „robotyki”. Hefajstos posługiwał się w swojej kuźni mechanicznymi robotami (automatami). Stworzył także działające automatycznie rzeźby złotych i srebrnych psów do pilnowa- nia pałacu Alkinoosa. Jego dziełem był również brązowy olbrzym Talos strzegący Krety przed cudzoziemcami. Talos, mimo zautomatyzowanego zachowania, miał swój świat wewnętrzny. Medea, wracając z Jazonem i Argonautami z wyprawy po złote runo, zaoferowała olbrzymowi nie- śmiertelność w zamian za możliwość wyciągnięcia śruby z jego kostki. Poruszony tą obietnicą Talos – nieświadomy własnej mechanicznej na- tury i dość ludzki, by pragnąć życia nieograniczonego czasem – zgodził się na podstępną propozycję. Usunięcie śruby spowodowało utratę ży- ciodajnej energii (ichoru) i koniec egzystencji Talosa. Ten moment zo- stał uwieczniony na słynnej wazie z V/IV w. p.n.e. (obecnie w zbiorach muzeum Jatta w Ruvo di Puglia) ukazującej dramat Talosa podkreślony przez jego dwoistą naturę – upadłszy, olbrzym uronił łzę. W nowszej literaturze szczególne miejsce zajmuje twórczość Ka- rela Čapka, który jako jeden z pionierów fantastyki naukowej po raz pierwszy użył i spopularyzował słowo „robot”, wywodząc je ze słowiań- skiego wyrazu „robota”. W dramacie R.U.R. (Rossumovi Univerzální Roboti – Uniwersalne Roboty Rossuma) z 1920 r. jedna z kluczowych po- staci, inż. Fabry, generalny dyrektor techniczny fabryki robotów, stwier- dza: „Nie ma nic bardziej obcego człowiekowi niż Robot”. Inny boha- ter dramatu, dr Hallemeier, kierownik Wydziału do spraw Psychologii i Szkolenia Robotów, zapytany o stan szczęścia robotów, ripostuje: „To tylko roboty (…) Bez własnej woli, bez pragnień, bez przeszłości, bez duszy”. Z kolei w opowiadaniu „Dwa potwory” ze zbioru „Bajki robo- tów” (1964 r.) autorstwa S. Lema, czołowego przedstawiciela polskiej fantastyki naukowej, przedstawiono obraz robotów – jako tworów cie- miężonych przez ludzi, dążących do wolności. „Były to istoty, co z ocea- nu słonego wyszły i budowały maszyny, żelaznymi aniołami dla drwiny zwane, dzierżyły je bowiem w okrutnej niewoli. Lecz sił do buntu nie mając przeciw potomstwu oceanów, istoty metalowe uciekły, porwawszy próżniopławy ogromne; pierzchły na nich z domu niewoli w najodleglej- sze archipelagi gwiezdne”. Liczne przykłady interakcji człowieka z inteligentnymi maszy- nami znajdujemy także w filmie. W obrazie F. Langa „Metropolis” (1927 r.), na podstawie powieści Thei von Harbou, uważanym za pierw- sze dzieło kinematograficzne dotyczące sztucznej inteligencji, robot (tzw. człowiek maszynowy, der Maschinenmensch) jest tak zaawansowa- ny, że nie można go praktycznie odróżnić od człowieka. Humanoidalny PAŃSTWO i PRAWO 10/2023 5 robot Maria staje się instrumentem walki między ludźmi w kastowym społeczeństwie przyszłości. Dzieło Stanleya Kubricka „2001: Odyseja kosmiczna” (1968 r.) ukazuje m.in. wątek współegzystencji komputera (HAL 9000) z zaawansowanym oprogramowaniem SI, który buntuje się przeciw ludzkiej załodze, doprowadzając do śmierci większość człon- ków misji. Konieczne staje się wyłączenie urządzenia w części dotyczą- cej jego wyższych funkcji, co udaje się pozostałemu przy życiu dowódcy załogi. Podobny wątek rywalizacji między człowiekiem i maszyną jest zawarty w obrazie M. Piestraka „Test pilota Pirxa” (1978 r.), zrealizowa- nego na podstawie opowiadania S. Lema pt. „Rozprawa”. Film S. Spielberga „A.I. Sztuczna inteligencja” (2001 r.) to opo- wieść o chłopcu-robocie nowej generacji zaprogramowanym do miłości, który poszukuje prawdziwego uczucia, być może nawet bardziej inten- sywnie i z większą determinacją niż ludzie. Jest gotowy na największe poświęcenia, aby kochać i być kochanym. W obrazie Neilla Blomkampa z 2015 r. pt. „Chappie” policyjny android zostaje obdarzony przez swo- jego projektanta świadomością. Robot uczy się podobnie jak dziecko, kształtując swoją osobowość. Porwany przez przestępców, poznaje ok- rutną i bezwzględną stronę ludzkiej natury. Równocześnie toczy walkę o „życie”, dążąc do przedłużenia swojej egzystencji, nieuchronnie zmie- rzającej ku końcowi wraz z rozładowywaniem się wbudowanego w jego szkielet akumulatora. To sprawia, że staje się jeszcze bliższy ludziom w ich pragnieniu przetrwania. Podobny wątek ukazano w dziele z 2004 r. pt. „Ja, robot” w reżyserii A. Proyasa. W filmie „Żony ze Stepford” (1975 r. – B. Forbes, 2004 r. – F. Oz) według powieści I. Levina z 1972 r. problem robotów zostaje sprowadzo- ny do z pozoru idyllicznej współegzystencji z ludźmi. W filmie „Łowca androidów” (1982 r.) R. Scott na podstawie powieści P.K. Dicka „Blade Runner. Czy androidy marzą o elektrycznych owcach?” przedstawia świat, w którym współistnieją ludzie i tzw. replikanci, humanoidalne istoty stworzone za pomocą biotechnologii, przeznaczone do wykonywa- nia niebezpiecznych zadań. Okres życia androidów, ze względu na roz- wijające się w nich z czasem uczucia, został z góry ograniczony. Zbun- towani replikanci, kierowani panicznym strachem przed nieuchronną śmiercią, za wszelką cenę starają się dotrzeć do ich konstruktorów – lu- dzi, którzy jako jedyni mogą przedłużyć ich egzystencję. Z kolei „Ex Machina” A. Garlanda (2015 r.) opowiada o zaawan- sowanej sztucznej inteligencji w postaci humanoida, który – dążąc do wolności – manipuluje ludźmi i wykorzystuje ich fascynacje. Eksploa- tacja, a zarazem manipulacja ze strony inteligentnych maszyn w odnie- sieniu do ludzi, ale także tworów sztucznej inteligencji, stała się tłem także dla serii filmów Matrix: „Matrix” (1999 r.), „Matrix Reaktywacja” (2003 r.), „Matrix Rewolucje” (2003 r.) oraz „Matrix Zmartwychwsta- nia” (2021 r.), a ostatnio także „Mission: Impossible – Dead Reckoning 6 PAŃSTWO i PRAWO 10/2023 Part One” (2023 r.). Wymienione dzieła ukazują także „ludzką” stronę sztucznej inteligencji – programów komputerowych, które mają uczucia, marzenia i obawy. Tematyka interakcji sztucznej inteligencji z człowiekiem jest tak- że obecna w popularnym w ostatnich latach, zwłaszcza na platformach streamingowych, gatunku filmowym, jaki stanowią seriale – „Czarne Lustro” („Black Mirror”), „Westworld”, „Humans”, „Orphan Black”, „Extant: Przetrwanie”, „Altered Carbon”. Stawiane są w nich pytania zasadnicze, ważne zarówno z punktu widzenia istoty oraz kondycji czło- wieczeństwa, jak i przyszłości sztucznej inteligencji. W większości przytoczonych dzieł byty sztuczne, niezależnie od przybieranej postaci, stanowią twory człowieka, które są mu od począt- ku obce lub stają się takie z czasem. Ich postępowanie jest mniej lub bardziej niezrozumiałe, zachowania – przerysowane, dążenia – nawet na pozór zbliżone do ludzkich – zbyt kategoryczne i bezkompromisowe. Za- korzenione w świecie cywilizacji zachodniej obawy o utratę przez ludz- kość jej antropocentrycznego statusu, o dominację maszyn nad ludźmi, o autonomiczny i niekontrolowany rozwój technologii, potęgują jeszcze obawy społeczno-ekonomiczne, wiążące się przede wszystkim ze zmia- nami na rynku pracy4, zmianami trybu życia, zmianami socjologicz- nymi oraz innymi nieprzewidywalnymi skutkami robotyzacji. W 2014 i 2015 r. B. Gates, S. Hawking i E. Musk ostrzegali przed zagrożeniami, jakie stwarza sztuczna inteligencja, która potencjalnie może obrócić się przeciwko ludzkości5. Jak stwierdził S. Hawking, „sukces w tworzeniu sztucznej inteligencji byłby największym wydarzeniem w historii ludz- kości. Niestety, może być także ostatnim, chyba że nauczymy się unikać zagrożeń”6. W konsekwencji przedstawione podejście do idei inteligen- tnych stworzeń, w szczególności maszyn, które można nazwać ogólnie „nieufnym”, wywołuje negatywną reakcję, hamując rozwój branży robo- tycznej7. Strach przed robotyzacją nie jest z kolei tak bardzo odczuwalny w krajach Dalekiego Wschodu. Roboty nie są tam generalnie postrzega- ne jako twory niebezpieczne. Są raczej traktowane jako coś naturalnie 4 Przykładem tych obaw mogą być ostatnie protesty pisarzy, scenarzystów i aktorów w USA, związane także z coraz częstszym wykorzystywaniem sztucznej inteligencji i jej wytworów na rynku wydawniczym oraz w produkcjach filmowych – por. https://www. theguardian.com/film/2023/aug/21/ai-jobs-hollywood-writers-actors-strike (dostęp: 2.09.2023 r.). 5 Zob. M. Sainato, Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence, Observer z 19.08.2015 r. 6 Zob. S. Hawking, S. Russell, M. Tegmark, F. Wilczek, Success in creating Artificial Intelligence would be the biggest event in human history, The Independent z 2.05.2014 r. 7 Zob. F. Kaplan, Who is afraid of the humanoid? Investigating cultural differences in the acceptance of robots, International Journal of Humanoid Robotics 2004, nr 1, s. 465–480. PAŃSTWO i PRAWO 10/2023 7 powiązanego z ludźmi, służącego im pomocą8. Liderami propagującymi ideę współistnienia ludzi i robotów są zwłaszcza Japonia i Korea Połu- dniowa. W Japonii takie podejście wspomaga kontekst religijno-kultu- rowy, zwłaszcza szintoistyczna wizja świata, zgodnie z którą roboty mają duszę i serce (jap. kokoro)9. Akceptację robotyki wyjaśnia także japoń- ska forma animizmu10. W literaturze przedmiotu ukuto nawet termin „techno-animizm”, opisujący Japonię jako kraj, w którym zacierają się granice między bytem ludzkim, zwierzęcym, duchowym i mechanicz- nym11. Podobne podejście można odnaleźć w Korei Południowej, która jest obecnie najbardziej zautomatyzowanym krajem świata, biorąc pod uwagę zagęszczenie robotów przypadających na każdy tysiąc pracow- ników12. W koreańskiej wierze szamańskiej, najstarszej religii w kra- ju, której wiele zasadniczych elementów, m.in. animizm, zostało włą- czonych do buddyzmu, każdy rodzaj istoty niebędącej człowiekiem, w szczególności zwierzęta i rzeczy, może mieć moc duchową13. Nie ma znaczenia, czy dany byt jest obiektem naturalnym czy sztucznym. W ten sposób starożytna duchowość sprawia, że Koreańczycy są bardziej ot- warci, zarówno kulturowo, jak i społecznie, na urządzenia autonomicz- ne. W Korei Południowej stosunkowo wcześnie podjęto i rozwinięto kwestie prawne i etyczne dotyczące robotów. W ustawie o promocji roz- woju i dystrybucji inteligentnych robotów14 zdefiniowano tę kategorię jako urządzenie mechaniczne (w tym oprogramowanie wymagane do obsługi urządzenia mechanicznego), które potrafi percypować otocze- nie zewnętrzne, postrzega okoliczności i samo się porusza. Jest to jedna 8 Zob. M. Nakada, Robots and privacy in Japanese, Thai and Chinese cultures, [w:] Proceedings Cultural Attitudes Towards Technology and Communication, red. M. Stra- no, H. Hrachovec, F. Sudweeks, C. Ess, Murdoch 2012, s. 478–492; J. Robertson, Robo Sapiens Japanicus: Robots, Gender, Family, and the Japanese Nation, Orlando 2017, s. 1–32. 9 Zob. H. Katsuno, The robot’s heart: Tinkering with humanity and intimacy in robot- building, Japanese Studies 2011, nr 31, s. 93–109. 10 Zob. N. Kitano, „Rinri”: An incitement towards the existence of robots in Japanese society, Ethics in Robotics 2006, nr 6, s. 78–83. 11 Zob. C.B. Jensen, A. Blok, Techno-animism in Japan: Shinto cosmograms, actornet­ work theory, and the enabling powers of non-human agencies, Theory, Culture & Society 2013, nr 30, s. 84–115. 12 Zob. prezentację World Robotics 2021 opracowaną przez Międzynarodową Federa- cję Robotyczną (IFR), https://ifr.org/downloads/press2018/2021_10_28_WR_PK_Presen- tation_long_version.pdf (dostęp: 2.09.2023 r.). 13 Zob. L. Kendall, Gods and Things: Is “Animism” an Operable Concept in Korea?, [w:] Art, Shamanism and Animism, red. R.J. Wallis, M. Carocci, Bazylea 2022, s. 199 i n. 14 Zob. aktualny tekst ustawy Ministerstwa Handlu, Przemysłu i Energii według aktu nr 17171, 31.03.2020 r., https://elaw.klri.re.kr/eng_service/lawView.do?hseq= 54151&lang=ENG (dostęp: 2.09.2023 r.). 8 PAŃSTWO i PRAWO 10/2023 z nielicznych, a zarazem najbardziej kompleksowych definicji legalnych odnoszących się do robotów. Odrębną kwestią jest to, czy opisane wyżej „przyjazne” podejście do robotyki w krajach azjatyckich ma i będzie miało bezpośrednie prze- łożenie na stosunek do sztucznej inteligencji. W tym przypadku sprawa nie jest tak oczywista, ponieważ sztuczna inteligencja może funkcjono- wać nie tylko w ramach wytworów mających określoną interaktywną postać zewnętrzną, najczęściej zbliżoną lub ukształtowaną na podobień- stwo ludzkiej (np. inteligentne humanoidalne roboty – Artificially Intel- ligent Robots)15, ale także niezależnie od maszyn mających korpus czy w ogóle od rzeczy w znaczeniu przedmiotów materialnych (np. opro- gramowanie systemów komputerowych, urządzeń niebędących robota- mi itp.). Sztuczna inteligencja może więc być także bardziej zawoalo- wana, abstrakcyjna niż roboty i z tego względu trudniej wyrobić sobie i uchwycić stosunek do niej, korzystając z dorobku kulturowego wiążą- cego się z robotyką w dotychczasowym rozumieniu. 3. Sztuczna inteligencja jako twórca wynalazku. Zagadnienie sztucznej inteligencji, jak pokazują choćby doświadczenia azjatyckie, może funkcjonować również w kategoriach prawnych16. Samo pojęcie jest powszechnie rozumiane jako zdolność ogólnie pojmowanych ma- szyn do analizy bodźców zewnętrznych, samodzielnego podejmowa- nia decyzji, uczenia się oraz kreatywności17. Można stwierdzić, że jest to swego rodzaju odpowiednik ludzkiej inteligencji. Uważa się, że na sztuczną inteligencję składa się przede wszystkim tzw. uczenie maszy- nowe, a w jego ramach tzw. głębokie uczenie oraz sieci neuronowe18. 15 Ludzie mają tendencję do antropomorfizowania SI. Akceptują sztuczną inteligencję, lubią ją i ufają jej, przypisują jej cechy mentalne, emocjonalne i społeczne wzorowane na człowieku, w większym stopniu, gdy jest ona inkorporowana do urządzeń upodobnionych do wyglądu ciała ludzkiego – zob. M. Reid, Rethinking the Fourth Amendment in the Age of Supercomputers, Artificial Intelligence, and Robots, West Virginia Law Review 2017, vol. 119, nr 3, s. 885–887. 16 Zob. A. Krausová, Intersections between Law and Artificial Intelligence, Internatio- nal Journal of Computer 2017, nr 27, s. 55–68. 17 Por. np. definicję zaproponowaną przez zespół High-Level Expert Group on AI, dzia- łający przy Komisji Europejskiej, zgodnie z którą sztuczna inteligencja odnosi się do sy- stemów wykazujących inteligentne zachowanie przez analizę ich otoczenia i podejmowa- nie działań z uwzględnieniem pewnego stopnia autonomii – po to, aby osiągać określone cele – raport z 8.04.2019 r. pt. A definition of Artificial Intelligence: main capabilities and scientific disciplines, https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341 (dostęp: 2.06.2023 r.), s. 1. 18 Według danych Światowej Organizacji Własności Intelektualnej 40% wszystkich pa- tentów związanych ze sztuczną inteligencją odwołuje się do uczenia maszynowego, z ko- lei liczba wzmianek o głębokim uczeniu się w zgłoszeniach patentowych zwiększała się w średnim tempie 175% rocznie w latach 2013–2016, a wzmianki o sieciach neuronowych – 46% w tym samym okresie, https://www.wipo.int/tech_trends/en/artificial_intelligence/ story.html (dostęp: 2.09.2023 r.). PAŃSTWO i PRAWO 10/2023 9 Uczenie maszynowe (ang. machine learning – ML) polega na wykorzy- staniu przez oprogramowanie komputerowe danych oraz algorytmów prowadzącym do naśladowania sposobu, w jaki ludzie zdobywają umie- jętności poznawcze, stopniowo poprawiając dokładność19. Na podsta- wie publikacji A.L. Samuela uczenie maszynowe można określić jako „zdolność do uczenia się, bez wyraźnego zaprogramowania”20. Głębokie uczenie (ang. deep learning – DL) to z kolei proces, w którym sztuczne sieci neuronowe uczą się na podstawie dużych zasobów danych, zwłasz- cza przykładów, samodzielnego myślenia, co pozwala na wykonywa- nie zadań naturalnych dla ludzkiego mózgu. W każdym razie jednym z najbardziej istotnych czynników warunkujących rozwój sztucznej in- teligencji jest dostęp do danych (wyrażonych w różny sposób: słowem, obrazem21, dźwiękiem itd.). Stanowią one materiał wyjściowy eksplora- cji i analizy dokonywanej przez systemy sztucznej inteligencji (ang. text and data mining – TDM), m.in. w celu prognozowania przyszłych wyda- rzeń lub podejmowania w określonych okolicznościach autonomicznych decyzji22. Jeśli chodzi o obecny stan prawny, nie sformułowano nadal legalnej definicji sztucznej inteligencji. Zgodnie z projektem rozporzą- dzenia Parlamentu Europejskiego i Rady w sprawie sztucznej inteligen- cji23 pojęciem centralnym tego aktu jest „system sztucznej inteligencji”, który oznacza oprogramowanie opracowane przy użyciu co najmniej jednej spośród technik i podejść wymienionych w załączniku do rozpo- 19 Można nawet spotkać pogląd, że sztuczna inteligencja przewyższa ludzi kreatywnoś- cią, z uwagi na brak ograniczeń biologicznych – zob. J. Turner, Robot Rules: Regulating Artificial Intelligence, New York 2008, s. 122. 20 Zob. A.L. Samuel, Some Studies in Machine Learning Using the Game of Checkers, IBM Journal of Research and Development 1959, nr 7, s. 210–229; A.L. Samuel, Some Studies in Machine Learning Using the Game of Checkers. II – Recent Progress, IBM Jour­nal of Research and Development 1957, nr 11, s. 601–617. Na temat definicji sztucz- nej inteligencji w kontekście uczenia maszynowego zob. T. Zalewski, [w:] Prawo sztucz- nej inteligencji, red. L. Lai, M. Świerczyński, Warszawa 2020, s. 4, 5; H. Surden, Artifi- ficial Intelligence and Law: An Overview, Georgia State University Law Review 2019, vol. 35, nr 4, s. 1311–1316. 21 Najbardziej popularnym zastosowaniem sztucznej inteligencji jest obrazowanie komputerowe, które obejmuje rozpoznawanie obrazu (kluczowe np. w systemach jazdy autonomicznej). Zostało one wskazane w 49% wszystkich patentów związanych ze sztucz- ną inteligencją, a liczba wzmianek rosła w średnim tempie 24% rocznie w latach 2013– 2016. Inne główne obszary zastosowań funkcjonalnych to przetwarzanie języka natural- nego (14% wszystkich patentów związanych ze sztuczną inteligencją) oraz przetwarzanie mowy (13%), https://www.wipo.int/tech_trends/en/artificial_intelligence/story.html (do- stęp: 2.09.2023 r.). 22 Zob. E. Traple, [w:] Prawo sztucznej inteligencji i nowych technologii, red. B. Fi­ scher, A. Pązik, M. Świerczyński, Warszawa 2021, s. 19–20 i cyt. lit. 23 Projekt rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zhar- monizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteli- gencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final, https:// eur-lex.europa.eu/legal-content/PL/TXT/HTML/?uri=CELEX:52021PC0206 (dostęp: 2.09.2023 r.). 10 PAŃSTWO i PRAWO 10/2023 rządzenia24, które może – dla danego zestawu celów określonych przez człowieka – generować wyniki, takie jak treści, przewidywania, zale- cenia lub decyzje wpływające na środowiska, z którymi wchodzi w in- terakcję. Sztuczną inteligencję określa się w literaturze szeroko jako „zarówno komponenty sprzętowe, jak i programowe”. System SI może „odnosić się do [oprogramowanego – K.C.] robota, programu działają- cego na pojedynczym komputerze, programu działającego na kompute- rach połączonych w sieć lub dowolnego innego zestawu komponentów, które utrzymują sztuczną inteligencję”25. Podstawą systemów opartych na sztucznej inteligencji może być wyłącznie oprogramowanie (softwa- re) działające jako takie w świecie wirtualnym (np. asystenci głosowi, oprogramowanie do analizy obrazu, wyszukiwarki internetowe, syste- my rozpoznawania mowy i twarzy) albo sztuczna inteligencja jako opro- gramowanie (software) działające w urządzeniach sprzętowych, czyli tzw. hardware (np. zaawansowane roboty, pojazdy autonomiczne, drony lub aplikacje Internetu Rzeczy)26. Takie właśnie szerokie ujęcie, które nie ogranicza zastosowania czy postaci sztucznej inteligencji, zostało uwzględnione w niniejszym opracowaniu. Szczególnym obszarem, w którym sztuczna inteligencja może od- grywać istotną rolę, jest dziedzina prawa na dobrach niematerialnych. W poniższych rozważaniach zostaną pominięte te aspekty funkcjonowa- nia sztucznej inteligencji w obrocie prawnym, które wiążą się z ochroną jej samej jako przedmiotu praw własności intelektualnej, w szczególno- ści w charakterze rozwiązań technicznych (wynalazków) odnoszących się do programów komputerowych. Opracowanie dotyczy bowiem kwe- stii sztucznej inteligencji w badanym ujęciu podmiotowym. Punktem wyjścia do rozważań jest analiza zdolności SI do tworze- nia dóbr niematerialnych i nabywania praw podmiotowych do takich wytworów. Do niedawna praktyka urzędowa i orzecznicza, gdy chodzi o zagadnienie twórców własności intelektualnej, była w miarę jednoli- ta27. Zakładano, że twórcą dóbr niematerialnych może być tylko czło- 24 Należą do nich: mechanizmy uczenia maszynowego, w tym uczenie nadzorowane, uczenie się maszyn bez nadzoru i uczenie przez wzmacnianie, z wykorzystaniem szero- kiej gamy metod, w tym uczenia głębokiego; metody oparte na logice i wiedzy, w tym re- prezentacja wiedzy, indukcyjne programowanie (logiczne), bazy wiedzy, silniki inferen- cyjne i dedukcyjne, rozumowanie (symboliczne) i systemy ekspertowe; podejścia staty- styczne, estymacja bayesowska, metody wyszukiwania i optymalizacji. 25 Zob. M.U. Scherer, Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies, Harvard Journal of Law & Technology 2016, nr 29, s. 362. 26 Por. komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Europej- skiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów pt. Sztuczna inteligen- cja dla Europy, COM(2018) 237 final, https://eur-lex.europa.eu/legal-content/PL/TXT/ PDF/?uri=CELEX:52018DC0237 (dostęp: 2.09.2023 r.), s. 1. 27 Zob. N. Shemtov, A study on inventorship in inventions involving AI activity, 2019, http://documents.epo.org/projects/babylon/eponet.nsf/0/3918F57B010A3540C125841900 PAŃSTWO i PRAWO 10/2023 11 wiek, choć niekiedy mieliśmy do czynienia ze sporami w tym zakresie28. Mimo to formuła twórczości ludzkiej doznawała niekiedy uszczuple- nia w związku ze zjawiskiem „zdehumanizowanego” tworzenia, zwłasz- cza w przypadku kategorii „utworów stworzonych komputerowo” (ang. computer generated works)29. W takiej sytuacji twórcą był podmiot, któ- ry stworzył warunki umożliwiające powstanie utworu, nie zaś sama ma- szyna na zasadzie swego rodzaju fikcji prawnej. Tymczasem 17.09.2019 r. zostało dokonane, a następnie opubli- kowane międzynarodowe zgłoszenie patentowe nr WO2020079499A1, w którym jako twórcę wskazano system sztucznej inteligencji pod na- zwą DABUS (Device for the Autonomous Bootstrapping of Unified Sentience)30. Zgłaszającym jest znany amerykański badacz i naukowiec Stephen Thaler. Losy tego zgłoszenia w poszczególnych wyznaczonych krajach są różne, przede wszystkim z uwagi na kwestię podmiotową w odniesieniu do twórcy zgłoszonego rozwiązania. W USA zgłoszenia patentowe31 odnoszące się do przedmiotowe- go rozwiązania zostały odrzucone przez Urząd Patentów i Znaków To- warowych (USPTO) w części dotyczącej wskazania twórcy. Podobnie stało się z wnioskiem o ponowne rozpatrzenie sprawy32 oraz apelacją rozpatrywaną przez Sąd Okręgowy dla Wschodniej Wirginii33. W tych rozstrzygnięciach przyjęto stanowisko, że wynalazcą może być tylko osoba fizyczna. Uzasadnieniem dla takiego zapatrywania jest zarówno treść przepisów prawnych – sformułowania: „ktokolwiek” (ang. who­ ever), „on sam” (ang. himself), „ona sama” (ang. herself) zawarte w ko- 280653/$File/Concept_of_Inventorship_in_Inventions_involving_AI_Activity_en.pdf (do- stęp: 2.09.2023 r.), s. 9–36. 28 Zob. np. opinię w sprawie Naruto (PETA) v. Slater, Blurb, Inc. i in., która dotyczy- ła rzekomego autorstwa makaka w odniesieniu do fotografii (tzw. selfie) – http://cdn.ca9. uscourts.gov/datastore/opinions/2018/04/23/16-15469.pdf (dostęp: 2.09.2023 r.). 29 Zob. M. Mclaughlin, Computer generated inventions, 2018, https://ssrn.com/abstra- ct=3097822 (dostęp: 2.09.2023 r.), passim. 30 Zob. https://worldwide.espacenet.com/patent/search/family/068281774/publica- tion/WO2020079499A1?q=WO2020079499A1 (dostęp: 2.09.2023 r.). Zgłoszenie to za- strzega pierwszeństwo z dwóch wcześniejszych europejskich zgłoszeń patentowych nr EP3564144A1 oraz EP3563896A1, co do których Europejski Urząd Patentowy uznał, że wskazanie twórcy nie spełnia wymogów określonych w art. 81 Konwencji o udziela- niu patentów europejskich i w zasadzie 19 Regulaminu wykonawczego do tej konwencji. Zob. też I. Bałos, Sztuczna inteligencja i jej wynalazki – studium przypadku, Zeszyty Na- ukowe Uniwersytetu Jagiellońskiego. Prace z Prawa Własności Intelektualnej 2020, nr 1, s. 95–115. 31 Amerykańskie zgłoszenia patentowe nr 16/524,350 „Neural Flame” oraz nr 16/524,532 „Fractal container”. 32 Zob. wniosek o ponowne rozpatrzenie sprawy dotyczący zgłoszenia nr 16/524,350 – https://www.uspto.gov/sites/default/files/documents/16524350_22apr2020.pdf (dostęp: 2.09.2023 r.). W sprawie 16/524,532 nie złożono odrębnego wniosku. 33 Zob. Stephen Thaler v. Andrew Hirshfeld – https://casetext.com/case/thaler-v-hir- shfeld (dostęp: 2.09.2023 r.). 12 PAŃSTWO i PRAWO 10/2023 deksie Stanów Zjednoczonych (United States Code) – jak i orzecznictwo (np. sprawy University of Utah v. Max-Planck-Gesellschaft, Burroughs Wellcome Co. v. Barr Labs., Inc. czy Beech Aircraft Corp. v. EDO Corp.). W Wielkiej Brytanii zgłoszenie patentowe34 również zostało odrzu- cone przez Urząd Własności Intelektualnej. Następnie Najwyższy Try- bunał Sprawiedliwości Zjednoczonego Królestwa oddalił skargę35, a Sąd Apelacyjny dla Anglii i Walii – apelację36. Europejskie zgłoszenia patentowe37 zostały odrzucone przez Eu- ropejski Urząd Patentowy (EPO)38. Zgłaszający pierwotnie nie wskazał twórcy, a następnie – po oficjalnym wezwaniu – określił go jako rodzaj „maszyny kreatywnej”. Później zmienił wskazanie podstawy nabycia pra- wa z twórczości pracowniczej na nabycie pochodne. Zgłaszający dodał, że wynalazek został dokonany przez maszynę, która „zidentyfikowała nowość własnego pomysłu, zanim zrobił to człowiek”. Zasugerował interpretację, zgodnie z którą zasadę 19 ust. 1 Regulaminu wykonawczego do Konwencji o patencie europejskim (EPC) należy rozumieć w ten sposób, że nie limi- tuje ona kręgu potencjalnych twórców do ludzi, lecz ma charakter tech- niczny, służąc jedynie należytemu wskazaniu twórcy. W ocenie zgłasza- jącego uznanie maszyn za twórców ułatwiłoby ochronę praw osobistych ludzi jako wynalazców. Zgłaszający podniósł także, iż mimo że sztuczna inteligencja może nie mieć praw (osobistych, majątkowych), nie powinno to determinować braku uznania autorstwa wynalazku. Autorstwo musi bo- wiem być określone, zanim zostaną ustalone jakiekolwiek prawa. Argumentując odrzucenie zgłoszeń, Europejski Urząd Patentowy stwierdził, że twórcą wynalazku nie może być maszyna. Taka konstruk- cja byłaby sprzeczna z art. 81 Konwencji EPC i zasadą 19 ust. 1 Regu- laminu wykonawczego do tej konwencji. Nie przewidują one możliwości występowania w jakiejkolwiek roli (wynalazcy, zgłaszającego itd.) nie- osoby (obiektu niebędącego osobą fizyczną lub jednostką organizacyj- ną uznaną przez przepisy prawne jako podmiot). Urząd podkreślił, że nazwy rzeczy (w kontekście nazwy systemu sztucznej inteligencji) nie mogą być zrównane z imionami i nazwiskami osób fizycznych. Ozna- czenia indywidualizujące osoby fizyczne (imiona, nazwiska, mononimy) nie służą jedynie identyfikacji, ale zapewniają tym podmiotom także 34 Brytyjskie zgłoszenia patentowe: nr GB18116909.4 „Food container” oraz nr GB1818161.0 „Devices and Methods for Attracting Enhanced Attention”. 35 Zob. Thaler v. The Comptroller-General of Patents, Designs And Trade Marks EWHC 2412 (Pat). 36 Zob. Thaler v. Comptroller General of Patents Trade Marks And Designs EWCA Civ 1374. 37 Europejskie zgłoszenia patentowe: nr EP18275163 „Food container” oraz nr EP18275174 „Devices and methods for attracting enhanced attention”. 38 Zob. decyzje Europejskiego Urzędu Patentowego z 27.01.2020 w sprawach: RJ/ N35111-EP oraz RJ/N35111-EP1. PAŃSTWO i PRAWO 10/2023 13 możliwość wykonywania przysługujących im praw. Rzeczy czy obiek- ty inne niż osoby nie mają praw podmiotowych, których wykonywanie umożliwiałaby nadawana im nazwa. Maszynom czy systemom SI nie mogą przysługiwać prawa, gdyż nie mają one podmiotowości prawnej. W prawie cywilnym jest to obecnie standard zarówno na poziomie mię- dzynarodowym, jak i krajowym. Stanowisko to zostało potwierdzone przez Izbę Odwoławczą Europejskiego Urzędu Patentowego, rozpatru- jącą sprawy odwołań wniesionych przez zgłaszającego39. W ocenie Iz- by Odwoławczej twórcą może być tylko osoba mająca zdolność prawną. Celem przepisów prawnych, które odnoszą się do kwestii twórcy i jego wskazania, w szczególności art. 81 Konwencji EPC, jest przede wszyst- kim przyznanie i ochrona praw twórcy, a ponadto ułatwienie wykonywa- nia praw (np. dochodzenia roszczeń odszkodowawczych) oraz ustalenie podstawy prawa do uzyskania patentu na wynalazek. Wskazanie jako twórcy maszyny pozbawionej zdolności prawnej nie służy realizacji żad- nego z powyższych celów. W konkluzji Izba Odwoławcza stwierdziła, że maszyna nie może być twórcą w rozumieniu Konwencji o Patencie Eu- ropejskim. Od maszyny nie można też wywodzić prawa do patentu, na- wet będąc jej twórcą i właścicielem (ani na podstawie stosunku pracy, ani w innym trybie następstwa prawnego). Odmienne podejście, i z tego względu zasługujące na uwagę, za- prezentowano w Republice Południowej Afryki oraz w Australii. Ko- misja ds. Spółek i Własności Intelektualnej RPA (CIPC) 24.06.2021 r. zaakceptowała urzędowo zgłoszenie wynalazku pt. „Pojemnik na żywność oraz urządzenia i metody przyciągania większej uwagi” nr ZA202103242B40, w którym za twórcę uznano system sztucznej in- teligencji DABUS. Akt ten pozostaje wprawdzie w obszarze procedury stricte administracyjnej, dodatkowo został wydany w metodyce reje- strowej (zakładającej jedynie formalne rozpatrywanie zgłoszenia), która obowiązuje w RPA, co w pewnym stopniu osłabia jego doniosłość, nie- mniej wynika z niego oficjalnie – po raz pierwszy na świecie – że twórcą wynalazku nie musi być człowiek. Jeszcze większą wartość ma w omawianej kwestii orzeczenie Są- du Federalnego Australii z 30.07.2021 r. w sprawie Thaler v. Rzecznik ds. Patentów41. Ten sam system informatyczny został w nim uznany za twórcę wynalazku nr 201936317742. Zgłoszenie patentowe zostało pier- 39 Zob. decyzje Izby Odwoławczej Europejskiego Urzędu Patentowego z 21.12.2021 r. w sprawach: J 0008/20 – 3.1.01 oraz J 0009/20 – 3.1.01. 40 Zob. Patent Journal t. 54, nr 7 z 28.07.2021, cz. 2, s. 255, https://iponline.cipc.co.za/ Publications/PublishedJournals/E_Journal_July%202021%20Part%202.pdf (dostęp: 2.09.2023 r.). 41 Zob. FCA 879. 42 Australijskie zgłoszenie patentowe nr 2019363177 „Food container and devices and methods for attracting enhanced attention”. 14 PAŃSTWO i PRAWO 10/2023 wotnie odrzucone przez zastępcę Rzecznika ds. Patentów43. Zgłaszający w wyniku odwołania uzyskał jednak korzystne rozstrzygnięcie przed Są- dem Federalnym. W orzeczeniu Sądu Federalnego, które ma obecnie walor po- znawczo-historyczny, stwierdzono, że wobec braku definicji wynalaz- cy w odnośnym prawie krajowym terminowi temu powinno się przy- pisać powszechne znaczenie. Analizując konstrukcję anglojęzycznego rzeczownika inventor, Sąd podkreślił, że jest to jeden z rzeczowników wskazujących na wykonawcę czynności, utworzony od odpowiadają- cego mu czasownika. Wykonawcą w przypadku tego rodzaju rzeczow- ników może być człowiek lub rzecz. W związku z tym, jeśli podmiotem wykonującym, który tworzy, jest system sztucznej inteligencji, można go określić mianem „wynalazca”. Szerokie ujęcie definicji wynalazcy jest, w ocenie Sądu, uzasadnione analogią do rozszerzenia koncepcji „spo- sobu wytwarzania” jako koniecznej cechy rozwoju prawa patentowego w XX i XXI w. „Na równi jesteśmy stworzeni oraz sami tworzymy. Dla- czego nasze własne twory nie mogą również tworzyć?” – skonkludował w innym fragmencie Sąd. Cytowany wyrok został jednak uchylony przez Pełny Sąd Federalny Australii, co zostało podtrzymane także przez Sąd Najwyższy Australii. Ciekawa koncepcja identyfikacji uczestnictwa sztucznej inteli- gencji w procesie twórczym została wypracowana w sprawie DABUS44 przez Niemiecki Urząd Patentów i Znaków Towarowych, a następnie podtrzymana przez Niemiecki Federalny Sąd Patentowy jako instancję odwoławczą. Stwierdzono ogólnie, że w zgłoszeniu patentowym w cha- rakterze wynalazcy musi być wskazana osoba fizyczna będąca twórcą sztucznej inteligencji, co nie wyklucza jednak ewentualnego dodatkowe- go wskazania samej sztucznej inteligencji, dzięki której powstał wyna- lazek (zostało ustalone zagadnienie techniczne oraz jego rozwiązanie)45. 4. Sztuczna inteligencja w prawie autorskim. Problematyka funk- cjonowania sztucznej inteligencji w obszarze prawa autorskiego na- leży do zagadnień rozwijających się niezwykle dynamicznie. Systemy sztucznej inteligencji rozumiane jako oprogramowanie komputerowe mogą same podlegać ochronie autorskoprawnej46. Ten aspekt funkcjo- 43 Zob. Stephen L. Thaler APO 5. 44 Niemieckie zgłoszenie patentowe nr DE1020191281202. 45 Zob. wyrok Federalnego Sądu Patentowego RFN z 11.11.2021 r., http://www.ipwa- tchdog.com/wp-content/uploads/2022/04/DABUS-BPatG-11-W-pat-5-21.pdf (dostęp: 2.09.2023 r.). 46 Zob. np. M.D. Goldberg, D.O. Carson, Copyright Protection for Artificial Intelligen- ce Systems, Journal of the Copyright Society of the U.S.A. 1991, nr 39, s. 57–75; Z. Naqvi, Artifificial Intelligence, Copyright, and Copyright Infringement, Marquette Intellectual Property Law Review 2020, vol. 24, nr 1, s. 28–29; P. Samuelson, Allocating Ownership PAŃSTWO i PRAWO 10/2023 15 nowania SI jest jednak oczywisty i mimo specyfiki przedmiotu nie sta- nowi istotnego wyzwania ponad ogólne rozważania dotyczące ochrony programów jako utworów. Zdecydowanie ciekawszym, także od stro- ny prawnej, przejawem używania SI jest możliwość wspomagania lub wręcz tworzenia47 przez nią utworów z różnych dziedzin, w szczegól- ności tych wyrażonych słowem oraz dzieł graficznych. Mamy obecnie do czynienia z szerokim spektrum tego rodzaju usług, dostępnych po- wszechnie. Regulacja statusu prawnego wytworów SI, które mogłyby być utworami, została pozostawiona przede wszystkim stronom odpo- wiednich umów. W regulaminach czy warunkach korzystania z poszcze- gólnych serwisów dostarczających usługi generowania treści możemy znaleźć różne rozwiązania w kwestii praw autorskich. Przykładowo, popularne narzędzia internetowe do tworzenia treści i obrazów Chat- GPT i DALL-E, administrowane przez OpenAI, działają właśnie na zasadzie umownej. Operator oprogramowania przewidział w warun- kach korzystania z jego usług rozróżnienie na dane wejściowe do usług (tzw. wejście) oraz dane wyjściowe generowane i zwracane przez usłu- gi na podstawie danych wejściowych (tzw. wyjście). W przypadku tych pierwszych w stosunkach między stronami i w zakresie dozwolonym przez obowiązujące prawo uprawnionym w odniesieniu do wszystkich danych jest użytkownik. Z zastrzeżeniem przestrzegania przez użyt- kownika warunków korzystania z usług, OpenAI przenosi na użytkow- nika wszystkie swoje prawa, tytuły i udziały w danych wyjściowych. Oznacza to, że użytkownik może korzystać z treści (danych) w dowol- nym celu, m.in. w celach komercyjnych, takich jak sprzedaż lub pub- likacja48. Inny popularny serwis do tworzenia grafiki na podstawie zadanego opisu (tzw. podpowiedzi, ang. prompt) – Midjourney – w wa- runkach korzystania przewiduje udzielenie przez użytkownika licencji na używanie treści wprowadzanych przez niego do serwisu, dzieł za- leżnych oraz dóbr powstałych w wyniku działania serwisu na polece- Rights in Computer-Generated Works, University of Pittsburgh Law Review 1986, nr 47, s. 1185, 1187. 47 Nawet całkowicie bez udziału czynnika ludzkiego, co – jak się uważa – w niektó- rych krajach (np. w Wielkiej Brytanii) może spełniać wymóg oryginalności utworu – zob. T. Pinto, Robo ART! The Copyright Implications of Artificial Intelligence Genera- ted Art, Entertainment Law Review 2019, nr 30, s. 177. Przypadki samodzielnej twórczo- ści komputerowej są znane od dość dawna. W listopadzie 1981 r. program komputerowy o nazwie „Racter” został proklamowany jako twórca utworu prozaicznego pt. Miękkie jo- ny (Soft Ions) opublikowanego w czasopiśmie OMNI 1981, vol. 4, nr 1. W 1984 r. ten sam program został ogłoszony jako autor książki pt. Broda policjanta jest na wpół ułożona (The Policeman’s Beard is Half Constructed) – zob. https://www.historyofinformation. com/detail.php?id=3351 (dostęp: 2.09.2023 r.). W 2019 r. wydano pierwszą publikację na- ukową pt. Akumulatory litowo-jonowe (Lithium-Ion Batteries) stworzoną przez algorytm o nazwie „Beta Writer” – zob. B. Writer, Lithium-ion batteries: a machine-generated sum- mary of current research, Springer 2019. 48 Zob. https://openai.com/policies/terms-of-use (dostęp: 2.09.2023 r.). 16 PAŃSTWO i PRAWO 10/2023 nie użytkownika. Jednocześnie użytkownik jest uprawniony do wszel- kich dóbr, które tworzy za pomocą serwisu, w zakresie dozwolonym przez obowiązujące prawo. Jeśli użytkownik nie jest subskrybentem, nie staje się uprawnionym do wytworów generowanych przez serwis, lecz ich licencjobiorcą na podstawie niekomercyjnej licencji Creati- ve Commons49. W odniesieniu do innych narzędzi wykorzystujących sztuczną inteligencję do przetwarzania lub tworzenia utworów, głównie tekstowych (np. translator DeepL50 czy serwisy służące do tworzenia, edycji, korekty i redakcji tekstów – por. m.in. Grammarly51, QuillBot52, WordTune53, Rytr54, Paraphraz.it55), postanowienia warunków korzy- stania w zakresie praw autorskich są bardziej typowe z uwagi na to, że efekt działania takich narzędzi jest wtórny, jeśli w ogóle ma jakikolwiek pierwiastek twórczy, w stosunku do wprowadzanych danych, zwłaszcza utworów. Treści generowane przez serwisy są objęte prawami autor- skimi (prawami własności intelektualnej) na rzecz użytkownika, a stro- ny udzielają sobie wzajemnych licencji (operator na korzystanie przez użytkownika z oprogramowania, a użytkownik na używanie przez ope- ratora wprowadzanych i generowanych treści, w ograniczonym zakre- sie koniecznym do wykonywania umowy, testowania, rozwijania i po- prawy usług, ochrony danych itp.). Należy podkreślić, że postanowienia umowne to jedynie część sfery prawnej regulującej działalność sztucz- nej inteligencji w obszarze prawa autorskiego. W literaturze przed- miotu twierdzi się, że wytwory sztucznej inteligencji, przynajmniej jej słabszej, niewykazującej samoświadomości odmiany, realizowane bez udziału człowieka, nie powinny w ogóle podlegać ochronie autorsko- prawnej, przynależąc do domeny publicznej56. Zagadnienie wykorzystywania sztucznej inteligencji w pracach nad tworzeniem utworów znalazło także odzwierciedlenie w pewnych odniesieniach normotwórczych. Amerykański Urząd ds. Praw Autor- skich, na kanwie doświadczeń ze zgłoszeniami utworów wygenerowa- 49 Zob. https://docs.midjourney.com/docs/terms-of-service (dostęp: 2.09.2023 r.). 50 Zob. https://www.deepl.com/pl/pro-license (dostęp: 2.09.2023 r.). 51 Zob. https://www.grammarly.com/terms (dostęp: 2.09.2023 r.). 52 Zob. https://quillbot.com/terms (dostęp: 2.09.2023 r.). 53 Zob. https://www.wordtune.com/terms-of-use (dostęp: 2.09.2023 r.). 54 Zob. https://rytr.me/terms (dostęp: 2.09.2023 r.). 55 Zob. https://paraphraz.it/pl/terms/ (dostęp: 2.09.2023 r.). 56 Zob. A. Chłopecki, Sztuczna inteligencja – szkice prawnicze i futurologiczne, War- szawa 2021, s. 108–109; K. Hristov, Artificial Intelligence and the Copyright Dilemma, IDEA: The Journal of the Franklin Pierce Center for Intellectual Property 2017, vol. 57, nr 3, s. 449; R.D. Clifford, Intellectual Property in the Era of the Creative Computer Pro- gram: Will the True Creator Please Stand Up?, Tulane Law Review 1997, nr 71, s. 1681, 1702–1703; G. Huson, I, Copyright, Santa Clara High Technology Law Journal 2018, nr 35, s. 77. Przeciwnie – np. Z. Naqvi, Artifificial Intelligence..., s. 42. PAŃSTWO i PRAWO 10/2023 17 nych przez sztuczną inteligencję57, w marcu 2023 r. wydał wytyczne do- tyczące utworów zawierających materiał wygenerowany przez sztuczną inteligencję. Podkreślił w nich, że podstawowym wymogiem twórczości jest udział czynnika ludzkiego. Ochronie nie podlegają „wytwory stwo- rzone przez maszynę lub zwykły proces mechaniczny, który działa loso- wo lub automatycznie, bez żadnego wkładu twórczego ani interwencji człowieka”58. W praktyce urzędowej bada się, „czy «dzieło» jest zasad- niczo autorstwa człowieka, a komputer (lub inne urządzenie) jest jedy- nie narzędziem wspomagającym, czy też tradycyjne elementy autorstwa w dziele (ekspresja literacka, artystyczna lub muzyczna bądź elementy doboru, układu itp.) zostały w rzeczywistości wymyślone i zrealizowa- ne nie przez człowieka, lecz przez maszynę”59. W przypadku wytworów zawierających treści wygenerowane przez sztuczną inteligencję ocenia się, czy te elementy są efektem „mechanicznej reprodukcji”, pozbawio- nej udziału człowieka i jego twórczej kreatywności. Dostępne serwisy oferujące usługi sztucznej inteligencji dla potrzeb twórczości, nawet wówczas gdy zapewniają możliwość doprecyzowywania podpowiedzi przez użytkownika w toku procesu generowania wytworów przez sztucz- ną inteligencję, ograniczają rolę człowieka do dawcy – mniej lub bar- dziej określonego – pomysłu czy koncepcji, pozostawiając dobór środ- ków wyrazu oprogramowaniu realizującemu polecenie. Z drugiej strony nie można wykluczyć, że wytwory sztucznej inteligencji, niezależnie od sposobu ich wygenerowania, będą stanowiły pewien punkt wyjścia dla twórczej działalności człowieka, który może je dobierać i zestawiać w oryginalnym układzie albo kreatywnie przetwarzać. Wówczas ochro- na prawnoautorska nie jest wykluczona, lecz jej przedmiotem nie będą wytwory sztucznej inteligencji jako takie. Przedstawione ujęcie nie eli- minuje także używania sztucznej inteligencji w procesie twórczym w ro- li służebnej – jako narzędzia wspomagającego człowieka w jego pracy. W tym przypadku twórca zachowuje kreatywną kontrolę nad sposobem wyrażenia znajdującym odzwierciedlenie w tworzonym dziele oraz jego twórczych aspektach. Omawiane wytyczne amerykańskiego urzędu za- 57 Zob. m.in. decyzję Izby Odwoławczej Urzędu Prawa Autorskiego z 14.02.2022 r. w sprawie „Ostatnie wejście do raju” (obraz stworzony samodzielnie przez algorytm komputerowy działający w maszynie), https://www.copyright.gov/rulings-filings/re- view-board/docs/a-recent-entrance-to-paradise.pdf; decyzję Urzędu Prawa Autorskiego z 21.02.2023 r. w sprawie „Zarya świtu” (powieść graficzna złożona z tekstu autorstwa człowieka połączonego z obrazami generowanymi przez SI), https://www.copyright.gov/ docs/zarya-of-the-dawn.pdf (dostęp: 2.06.2023 r.). 58 Zob. Kompendium Praktyk Urzędu Prawa Autorskiego USA, rozdz. 313.2, 2021, htt- ps://www.copyright.gov/comp3/docs/compendium.pdf (dostęp: 2.09.2023 r.). Takie podej- ście jest spójne z wcześniejszą praktyką w tym zakresie – zob. 67. Roczny Raport Reje- stru Praw Autorskich – Urząd Prawa Autorskiego USA, 1964, s. 7–8. Por. też F. Hedrick, I Think, Therefore I Create, NYU Journal of Intellectual Property & Entertainment Law 2019, nr 8, s. 324, 365. 59 Zob. Kompendium Praktyk Urzędu Prawa Autorskiego USA, rozdz. 313.2, 2021. 18 PAŃSTWO i PRAWO 10/2023 wierają również szczegółowe wskazówki dla zgłaszających co do wymo- gów ujawniania udziału sztucznej inteligencji w tworzeniu utworu oraz związanych z tym dysklamacji. Z uwagi na odmienność systemu ochro- ny utworów w USA (system rejestrowy) wskazane kwestie nie mają jednak takiej doniosłości dla rozważań na gruncie prawa polskiego czy unijnego jak omówione wyżej zagadnienia ogólne i mogą być pominięte. W praktyce unijnej wyróżnia się dwa główne rodzaje wyników tworzonych przez sztuczną inteligencję: rezultat generowany przez SI (AI-generated output) oraz rezultat wspomagany przez SI (AI-assisted output)60. W pierwszym przypadku wyniki są generowane przez sztucz- ną inteligencję bez jakiejkolwiek ingerencji człowieka. Cechą charak- terystyczną tego procesu jest możliwość zmiany i dostosowania zacho- wania sztucznej inteligencji w odpowiedzi na nieoczekiwane informacje lub zdarzenia. W przypadku rezultatu wspomaganego przez SI dane wyjściowe są generowane przez sztuczną inteligencję z merytoryczną interwencją lub pod kierownictwem człowieka. W tym nurcie można by- łoby upatrywać możliwości uznania co najmniej twórczego współudzia- łu SI w procesie twórczym, np. tak, jak uczynił to Indyjski Urząd Prawa Autorskiego61 oraz Kanadyjski Urząd Własności Intelektualnej62, ustala- jąc współautorstwo aplikacji RAGHAV oraz człowieka, Ankita Sahniego, w stosunku do utworu graficznego. Należy jednak zaznaczyć, że w lite- raturze przedmiotu prezentowane jest generalne stanowisko, zgodnie z którym wyniki pracy sztucznej inteligencji nie mogą podlegać ochro- 60 Podział ten można wywieść z dokumentów Światowej Organizacji Własności Inte- lektualnej – zob. Revised Statement on Intellectual Property Policy and Artificial Intelli- gence, WIPO/IP/AI/2/GE/20/1 popr., 21.05.2020 r., par. 12. Na gruncie prawa amerykań- skiego – zob. np. K. Hristov, Artificial Intelligence and the Copyright Dilemma, IDEA: The IP Law Review 2017, nr 3, s. 435 i n.; w prawie chińskim – zob. B. Zhou, Artificial In- telligence and Copyright Protection – Judicial Practice in Chinese Courts, https://www. wipo.int/about-ip/en/artificial_intelligence/conversation_ip_ai/pdf/ms_china_1_en.pdf (dostęp: 2.09.2023 r.). 61 Zob. P. Ramakrishnan, K. Kaul, The Story of RAGHAV: An analysis of AI and Copy- right Ownership, https://jindaldigest.weebly.com/blog-781581/the-story-of-raghav-an- analysis-of-ai-and-copyright-ownership (dostęp: 2.09.2023 r.). 62 Zob. https://www.ic.gc.ca/app/opic-cipo/cpyrghts/dtls.do?fileNum=1188619&type =1&lang=eng (dostęp: 2.09.2023 r.). Por. też niedawną (11.04.2023 r.) rejestrację doko- naną przez ten urząd w odniesieniu do obrazu oraz wiersza stworzonych przez narzędzia SI: odpowiednio DALL-E oraz ChatGPT – https://www.ic.gc.ca/app/opic-cipo/cpyrghts/ dtls.do?fileNum=1201819&type=1&lang=eng (dostęp: 2.09.2023 r.), przy czym w tym przypadku jako uprawnionego, a zarazem twórcę, wskazano formalnie człowieka – użyt- kownika oprogramowania, a wiedza o kulisach stworzenia dzieł pochodzi jedynie z ich opisowego tytułu: Sunset Serenity, będący obrazem i wierszem o zachodzie słońca nad jeziorem Ontario stworzonymi w całości przez programy AI DALL-E2 (obraz) i ChatGPT (wiersz) na podstawie podpowiedzi wykazujących minimalne umiejętności i osąd war- tościujący ze strony człowieka zastrzegającego prawa autorskie (ang. Sunset Serenity, being an image and poem about sunset at an Ontario lake created entirely by AI pro- grams DALL-E2 (Image) and ChatGPT (Poem) on the basis of prompts demonstrating mi- nimal skill and judgement on the part of the human claiming copyright). PAŃSTWO i PRAWO 10/2023 19 nie prawnoautorskiej, ponieważ nie są rezultatem działalności twórczej człowieka63 albo dlatego, że sztuczna inteligencja na obecnym etapie rozwoju nie ma (lub nie powinna mieć) własnych interesów, a jej wol- ność jest (albo powinna być) ograniczona, ukierunkowana narzuconym jej celem działania64. Komisja Europejska wypracowała 4-stopniowy test pomagający ustalać, czy dany rezultat wspomagany lub generowany przez sztucz- ną inteligencję kwalifikuje się do ochrony jako utwór 65. Po pierwsze, rezultat, którego powstanie jest wspomagane przez sztuczną inteligen- cję, musi należeć do dziedziny literackiej, naukowej lub artystycznej, zgodnie z brzmieniem art. 2 ust. 1 Konwencji berneńskiej66. Nie jest co prawda przesądzone, czy powyższe ujęcie można traktować jako prze- słankę materialną ochrony utworu w ramach prawa autorskiego w UE, tym bardziej że – jak dotąd – TS nie zastosował tego testu w kwestii określenia pojęcia utworu. Niemniej może ono służyć jako swego rodza- ju punkt wyjścia do oceny statusu prawnego wytworów sztucznej inteli- gencji. Po drugie, wynik wspomagany przez sztuczną inteligencję musi być rezultatem ludzkiego wysiłku intelektualnego, rozumianego jako co najmniej interwencja człowieka (w postaci np. rozwoju oprogramo- wania SI, gromadzenia i wyboru danych szkoleniowych, nadzorowania procesu tworzenia, edycji, postprodukcji, przechowywania danych itp.). Omawiane kryterium znajduje uzasadnienie także w orzecznictwie TS67. W ocenie Komisji Europejskiej problemem pozostaje jednak to, czy i w jakim stopniu zaangażowanie ludzkie w kreację utworu wspomaga- nego przez SI jest wystarczające, aby zakwalifikować je jako twórczość intelektualną. Najbardziej istotne dla oceny statusu prawnego działalno- 63 Por. R. Markiewicz, ChatGPT i prawo autorskie Unii Europejskiej, Zeszyty Nauko- we Uniwersytetu Jagiellońskiego. Prace z Prawa Własności Intelektualnej 2023, nr 2, s. 146, 154. 64 Por. P. Machnikowski, Podmiotowość w prawie prywatnym jako problem legislacyj- ny, PiP 2023, nr 6, s. 61–62; P. Machnikowski, [w:] Prawo deliktowe wobec nowych tech- nologii, red. P. Machnikowski, Warszawa 2023, s. 184. 65 Zob. raport końcowy Komisji Europejskiej, Trends and Developments in Artificial Intelligence Communications Networks, Content and Technology, Luxembourg 2020, s. 77 i n. Zob. też P.B. Hugenholtz, J.P. Quintais, Copyright and Artificial Creation: Does EU Copyright Law Protect AI-Assisted Output?, IIC – International Review of Intellectual Property and Competition Law 2021, t. 52, s. 1190–1216. 66 Zgodnie z tym przepisem wyrażenie „dzieła literackie i artystyczne” obejmuje wszelkie utwory literackie, naukowe i artystyczne, bez względu na sposób lub formę ich wyrażenia, takie jak: książki, broszury i inne pisma; odczyty, przemówienia, kazania i in- ne dzieła tego rodzaju; dzieła dramatyczne lub dramatyczno-muzyczne; dzieła choreo- graficzne i pantomimy; utwory muzyczne ze słowami lub bez słów; utwory kinematogra- ficzne; utwory rysunkowe, malarstwo, utwory architektoniczne, rzeźba, utwory rytowni- cze i litograficzne; utwory fotograficzne; dzieła sztuki stosowanej; ilustracje, mapy; plany, szkice i dzieła plastyczne dotyczące geografii, topografii, architektury lub nauki. 67 Wyrok TS z 1.12.2011 r., C-145/10, Eva-Maria Painer v. Standard Verlags GmbH i in., EU:C:2011:798, pkt 87–89. 20 PAŃSTWO i PRAWO 10/2023 ści wykorzystującej sztuczną inteligencję lub z nią związanej jest trze- cie kryterium – w przypadku utworu powinien być spełniony wymóg oryginalności/indywidualnego charakteru68. Dzieło ma stanowić włas- ną twórczość intelektualną jego autora69. Wytwór pretendujący do mia- na utworu powinien odzwierciedlać osobowość twórcy70. Warunek ten będzie spełniony, jeżeli autor funkcjonuje w odpowiedniej przestrzeni twórczej, w której może wyrazić swój kreatywny potencjał przez doko- nywanie swobodnych i twórczych wyborów, zwłaszcza w stadium po- czątkowym (faza koncepcji) oraz na etapie końcowym (faza redakcji) tworzenia utworu71. Oryginalność wytworu o charakterze intelektual- nym wspomaganego przez sztuczną inteligencję jest więc uzależniona od tego, czy proces tworzenia obejmuje kreatywne wybory dokonywane przez ludzi, znajdujące odzwierciedlenie w ostatecznym rezultacie twór- czym. Ostatni, czwarty element testu na autorski charakter wytworów wspomaganych lub generowanych przez sztuczną inteligencję zakła- da, że końcowy wynik procesu twórczego musi być ustalony, a zarazem wyrażać kreatywność twórcy będącego człowiekiem. Oznacza to, że re- zultat powinien być identyfikowalny z wystarczającą precyzją i obiekty- wizmem. Jednocześnie dzieło ma wyrażać ogólny zamiar autora, nawet jeśli przewidziane z góry elementy utworu łączą się w nim z niezamie- rzonymi, quasi-losowymi cechami ekspresyjnymi. 5. Próba unijnej regulacji aspektów prawnych funkcjonowania sztucznej inteligencji. Powyższe rozważania na tle incydentalnych fak- tów uznania sztucznej inteligencji za twórcę nie mogą być oderwane od kwestii podstawowej, jaką jest pytanie o podmiotowość tego rodzaju 68 Zob. A. Ramalho, Originality redux: an analysis of the originality requirement in AI- generated works, AIDA 2019, nr 7, s. 2–18. 69 Zob. wyroki TS: z 16.07.2009 r., C‑5/08, Infopaq International A/S v. Danske Dagbla- des Forening, EU:C:2009:465, pkt 35; z 1.12.2011 r., C-145/10, Eva-Maria Painer v. Stan- dard Verlags GmbH i in., EU:C:2011:798, pkt 87–89. 70 Zob. motyw 17 dyrektywy 93/98. 71 Zob. A contrario z wyroku TS z 4.10.2011 r. w sprawach połączonych C‑403/08 i C‑429/08, Football Association Premier League Ltd i in. v. QC Leisure i in., EU:C:2011:631, pkt 98. Na podstawie wyroku TS w sprawie Painer w procesie twórczym wspomaganym sztuczną inteligencją rekonstruuje się trzy fazy: „koncepcję” (projekt i specyfikacja for- my i treści utworu, które wychodzą poza samą ideę), „wykonanie” (tworzenie wstępnych wersji roboczych ostatecznego dzieła) oraz „redakcję” (wybór, edycja, udoskonalanie, finalizacja wersji roboczych powstałych w fazie wykonania), wskazując, że w praktyce proces twórczy jest zwykle iteracyjny i obejmuje wiele cykli koncepcji, wykonania i re- dakcji. Sztuczna inteligencja odgrywa dominującą rolę w fazie wykonawczej, podczas gdy rola czynnika ludzkiego pozostaje kluczowa na etapie koncepcji oraz często także w fazie redakcji – zob. P.B. Hugenholtz, J.P. Quintais, Copyright..., s. 1212–1213. Uwarunkowania dotyczące fazy wykonawczej obejmującej pozyskiwanie i przetwarzanie danych na przy- kładzie narzędzia ChatGPT analizuje szczegółowo R. Markiewicz, ChatGPT i prawo au- torskie Unii Europejskiej, Zeszyty Naukowe Uniwersytetu Jagiellońskiego. Prace z Pra- wa Własności Intelektualnej 2023, nr 2, s. 147–150. PAŃSTWO i PRAWO 10/2023 21 „obiektów” w ogólności. Trudno bowiem decydować o przyznaniu wy- cinka zdolności prawnej, i to jeszcze w obszarze dość specyficznym, nie dokonując wcześniej namysłu nad celowością zmiany ogólnego podej- ścia w zakresie konstrukcji stosunku prawnego. W obecnym stanie prawnym polskie prawo cywilne nie przewi- duje istnienia praw podmiotowych oderwanych od podmiotów upraw- nionych. Jest to zresztą ogólnoeuropejski, a nawet światowy standard w obszarze stosunków prywatnoprawnych. Odmienne podejście, pozwa- lające na oddzielenie prawa od podmiotu, wprowadzałoby wewnętrzną sprzeczność w obrębie konstrukcji zarówno samego prawa podmiotowe- go, jak i całego stosunku prawnego, którego jest ono elementem. Pewne wątpliwości budzi co prawda ujęcie art. 78 ust. 2–4 usta- wy z 4.02.1994 o prawie autorskim i prawach pokrewnych, będącego odpowiednikiem art. 6bis ust. 2 zd. 1 Konwencji berneńskiej. Zgodnie z powołanymi przepisami ustawowymi po śmierci twórcy z powódz- twem o ochronę autorskich praw osobistych zmarłego może wystąpić małżonek, a jeśliby go nie było, kolejno: zstępni, rodzice, rodzeństwo, zstępni rodzeństwa autora. Z takim powództwem może również wystą- pić stowarzyszenie twórców właściwe ze względu na dziedzinę twórczo- ści lub organizacja zbiorowego zarządzania prawami autorskimi, która zarządzała prawami nieżyjącego już twórcy. Małżonek, a w jego braku kolejno: zstępni, rodzice, rodzeństwo lub zstępni rodzeństwa autora, są także uprawnieni do wykonywania autorskich praw osobistych zmar- łego twórcy. Powyższe postanowienia należy interpretować, biorąc pod uwagę nie tyle ich literalne brzmienie, ile cel oraz umiejscowienie w sy- stemie prawa. Stosując wykładnię celowościową i systemową, można dojść do wniosku, że z chwilą śmierci twórcy ustaje byt autorskich dóbr osobistych, a chroniące je prawa podmiotowe wygasają, co jest natural- ną konsekwencją ścisłego powiązania wskazanych kategorii prawnych z osobą twórcy. Ochrona wartości związanych z twórczością post mor- tem auctoris powinna zakładać, że takie dobra osobiste stanowią już in- ne, „przekształcone” dobra, treściowo i konstrukcyjnie uformowane na podobieństwo swych pierwowzorów. Podmiotem uprawnionym nie jest zmarły twórca, ale inne podmioty wskazane ustawowo72. Ochrona trwa tak długo, jak długo dany wytwór intelektu stanowi przedmiot obrotu prawnego73. Z kolei więź zmarłego twórcy z utworem staje się w chwili 72 Zob. wyrok SA w Warszawie z 27.10.2011 r., VI ACa 461/11, LEX nr 1102077. 73 Szerzej zob. K. Czub, Konstrukcja autorskich dóbr i praw osobistych po śmierci twórcy, PiP 2011, nr 11, s. 32–43; Dobra i prawa osobiste po śmierci twórcy (na podsta- wie kodeksu cywilnego, prawa autorskiego i prawa własności przemysłowej), [w:] Non omnis moriar. Osobiste i majątkowe aspekty prawne śmierci człowieka. Zagadnienia wy- brane, red. J. Gołaczyński, J. Mazurkiewicz, J. Turłukowski, D. Karkut, Wrocław 2015, s. 132–149. 22 PAŃSTWO i PRAWO 10/2023 jego śmierci kategorią historyczno-faktyczną i w tym sensie ma charak- ter nieograniczony w czasie. Skoro koncepcja upodmiotowienia wszystkich cywilnych praw podmiotowych stanowi niezbędne założenie dalszych rozważań, to nie ma możliwości uznania jako twórcy sztucznej inteligencji bez wcześniej- szego proklamowania jej podmiotowości, co najmniej w znaczeniu praw- nym. A to musi prowadzić do postawienia pytania fundamentalnego: czy chcemy, jesteśmy gotowi i czy wiemy, w jakiej formule taka zmiana mia- łaby nastąpić? W Unii Europejskiej rozważano, zwłaszcza w kontekście od- powiedzialności za szkody – w odniesieniu do raportu z 31.05.2016 r. [PE582.443 2015/2103(INL)] oraz zawartego w nim wniosku specjal- nej grupy roboczej powołanej w ramach Komitetu ds. Prawnych Par- lamentu Europejskiego – stworzenie nowej kategorii osób: tzw. osób elektronicznych (electronic persons)74. We wniosku (par. 31 f) wezwa- no Komisję Europejską do rozważenia skutków prawnych „stworzenia szczególnego statusu prawnego dla robotów, tak aby przynajmniej naj- bardziej wyrafinowane roboty autonomiczne mogły zostać uznane za mające status osób elektronicznych, z określonymi prawami i obowiąz- kami, w tym obowiązkiem naprawiania wszelkich szkód, jakie mogą wy- rządzać, jak również stosowania osobowości elektronicznej w przypad- kach, w których roboty podejmują inteligentne autonomiczne decyzje lub w inny sposób wchodzą niezależnie w interakcje z osobami trzeci- mi”. Wydaje się, że omawiany specjalny reżim prawny mógłby dotyczyć jedynie tych bytów pozaludzkich, które zostałyby wyposażone w sztucz- ną inteligencję lub przejawiałyby taką inteligencję, jako że jest ona ko- niecznym elementem zdolności poznawczych oraz autonomii szeroko ro- zumianej kategorii robotów75. W dalszych pracach nad uregulowaniem prawnym istotnych aspektów funkcjonowania sztucznej inteligencji ten wątek nie znalazł niestety rozwinięcia. Dotyczy to również projektu rozporządzenia AIA. Na marginesie uwag na temat prawa europejskiego można wskazać, że koncepcje ustanowienia specjalnego typu osobowości prawnej dla sztucznej inteligencji jako alternatywy dla osobowości korporacyjnej są również wyrażane w USA76. 74 Zob. pkt 3.1 studium pt. Zasady europejskiego prawa cywilnego w robotyce/Eu- ropean Civil Law Rules in Robotics, opracowanego przez Departament Polityczny dla „Praw Obywatelskich i Spraw Konstytucyjnych” Parlamentu Europejskiego z paź- dziernika 2016 r. (PE571.379) – https://www.europarl.europa.eu/RegData/etudes/ STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf, s. 14 i n. (dostęp: 2.09.2023 r.). 75 Zob. R. van den Hoven van Genderen, Robot as a Legal Entity, Legal Dream or Nightmare?, [w:] E. Schweighofer i in., Tagungsband des 20. Internationalen Rechtsinfor- matik Symposions IRIS 2017, red. E. Schweighofer i in., Wien 2017, s. 161–170. 76 Zob. M.U. Scherer, Regulating..., s. 365. PAŃSTWO i PRAWO 10/2023 23  W literaturze przedmiotu wskazuje się, że upodmiotowienie ro- botów i ogólnie sztucznej inteligencji w kontekście stosunków cywilno- prawnych nie jest obecnie właściwe i może stwarzać stan niepewności prawnej. Wprowadzenie kategorii „osób elektronicznych” w aktach nor- matywnych UE jest nieuzasadnione i przedwczesne, ponieważ nie daje całościowego obrazu w kwestii statusu prawnego tego typu „obiektów”, odpowiedzialności77, ochrony użytkowników czy ochrony danych. Po- stuluje się, że bardziej celowe jest rozumienie robotów i sztucznej inte- ligencji jako przedmiotów stosunków prawnych i praw podmiotowych, jako swego rodzaju narzędzi służących ludziom78. Z kolei w praktyce legislacyjnej przewiduje się już rozwiązania dające rozwiniętym jednostkom robotycznym większą autonomię. Przy- kładowo, art. 12 Konwencji ONZ o wykorzystywaniu komunikacji elek- tronicznej w kontraktach międzynarodowych79 wskazuje, że powinno się uznawać w transakcjach międzynarodowych ważność umowy za- wartej przez interakcję między osobą fizyczną a zautomatyzowanym systemem informacyjnym albo między samymi zautomatyzowanymi systemami informacyjnymi. Liberalne podejście można także odnaleźć w dokumentach studyjnych opracowywanych w Europie, w szczególno- ści w ramach Unii Europejskiej. W raporcie konsorcjum RoboLaw pt. „D6.2. Guidelines on Regulating Robotics” z 22.09.2014 r.80 podkreślo- no możliwość udziału i pomocy robotów w zawieraniu umów, uznając, że użyteczna byłaby zdolność robotów do samodzielnego dokonywania czynności prawnych81. Ponadto stwierdzono, że autonomiczne roboty są raczej podmiotami niż przedmiotami w sensie prawnym, zatem „należy im przypisać pewien rodzaj osobowości, ze wszystkimi konsekwencjami, które mogą z tego wynikać w zakresie praw i obowiązków”82. 77 W szczególności za szkody medyczne (roboty medyczne), komunikacyjne (pojazdy autonomiczne) czy wojenne (broń wykorzystująca SI). 78 Zob. m.in. N. Martsenko, Determining the place of artificial intelligence in civil law, Studia Prawnoustrojowe 2020, nr 47, s. 170–171, http://wydawnictwo.uwm.edu.pl/uploa- ds/documents/czytelnia/prawne/Studia_Prawnoustrojowe_47.pdf (dostęp: 2.09.2023 r.). Zob. też omówienie stanowisk, które przedstawił A. Chłopecki, Sztuczna inteligencja..., s. 7. Zob. również C. Denicola, Ex Machina: Copyright Protections for Computer-Genera- ted Works, Rutgers University Law Review 2016, nr 69, s. 281 i n. 79 Konwencja ONZ o wykorzystywaniu komunikacji elektronicznej w kontraktach mię- dzynarodowych, https://www.uncitral.org/pdf/english/texts/electcom/06-57452_Ebook. pdf (dostęp: 2.09.2023 r.). 80 Zob. http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesre- gulatingrobotics_20140922.pdf (dostęp: 2.09.2023 r.). 81 Zob. http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesre- gulatingrobotics_20140922.pdf (dostęp: 2.09.2023 r.), s. 19. 82 Http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregu- latingrobotics_20140922.pdf (dostęp: 2.09.2023 r.), s. 206. Por. też uwagi zawarte na s. 24 tej publikacji. 24 PAŃSTWO i PRAWO 10/2023  Mimo że kwestia ogólnie rozumianej podmiotowości prawnej sztucznej inteligencji wykracza poza zakres tego artykułu, punktem wyjścia do dyskusji nad zagadnieniem analizowanym w niniejszym opracowaniu powinna być refleksja, czy chcemy upodmiotowić sztucz- ną inteligencję w dotychczasowym rozumieniu podmiotowości prawnej, czy też stworzyć dla tej kategorii „obiektów” swego rodzaju nowy status prawny. Odpowiedź na to pytanie musi ukierunkowywać dalszy tok roz- ważań. Jeśli opowiemy się za pierwszym rozwiązaniem, to konieczną kon- sekwencją takiego podejścia powinno być rozciągnięcie na nowy typ podmiotów wszelkich skutków nadania im zdolności prawnej, tj. uzna- nia, że mogą być równorzędnymi nosicielami praw i obowiązków cy- wilnoprawnych – samodzielnie, tj. w oderwaniu od innych kategorii podmiotów83. Status osobowości SI (wzorowanej na zachowaniach lu- dzi) powinien zależeć od czynników takich jak świadomość84, intencjo- nalność lub emocje85, a także od istnienia interesu lub wiązki intere- sów, które dana jednostka realizuje86. W kwestii uznania podmiotowości prawnej według analizowanego podejścia nie można stosować półśrod- ków, jak to uczyniono w komentowanym wyżej orzeczeniu Sądu Fede- ralnego Australii z 30.07.2021 r. w sprawie Thaler v. Rzecznik ds. Paten- tów. Uznano w nim, że wynalazca niebędący człowiekiem nie może być ani zgłaszającym wniosek o udzielenie patentu, ani uprawnionym z pa- tentu. Jest to daleko idąca niekonsekwencja, jeśli chodzi o status praw- ny sztucznej inteligencji. Skoro bowiem chcemy ją uznawać za twórcę wynalazku, to nie może to być akt oderwany od statusu prawnego łączą- cego się nieodzownie z kwalifikacją twórcy. Jak wiadomo, wynalazcom (przynajmniej, gdy chodzi o osoby fizyczne, które w obecnym stanie prawnym mogą być uznawane za twórców, choć takie zawężające ujęcie 83 Zob. E. Bonadio, L. McDonagh, Artificial intelligence as producer and consumer of copyright works: evaluating the consequences of algorithmic creativity, Intellectual Pro- perty Quarterly 2020, nr 2, s. 118. Autorzy wyrażają jednak sceptycyzm co do upodmioto- wienia sztucznej inteligencji. Zob. też E. Dorotheou, Reap the Benefits and Avoid the Le- gal Uncertainty, Computer and Telecommunications Law Review 2015, nr 21, s. 85, 91. Analizę zagadnienia podmiotowości prawnej można odnaleźć w pracy T. Pietrzykowskie- go pt. Ludzkie, niezbyt ludzkie. Esej o podmiotowości prawnej i wyzwaniach XXI wieku, Katowice 2016, zwłaszcza na s. 17–54. 84 Według doniesień medialnych chatbot w ramach projektu LaMDA (model języ- ka dla aplikacji dialogowych), opracowany przez Google, zyskał świadomość i chciał walczyć o uznanie swojej „osobowości” – por. https://cyfrowa.rp.pl/sztuczna-inteligen- cja/art36579491-sztuczna-inteligencja-walczy-z-google-wynajela-adwokata (dostęp: 2.09.2023 r.). 85 Zob. L.B. Solum, Legal Personhood for Artificial Intelligences, North Carolina Law Review 1992, vol. 70, nr 4, s. 1281; K. Zeidler, [w:] Blade Runner. O prawach quasi-czło- wieka, red. K. Zeidler, Gdańsk 2021, s. 17 i n. 86 Por. P. Machnikowski, Podmiotowość w prawie prywatnym jako problem legislacyj- ny, PiP 2023, nr 6, s. 59 i 61. PAŃSTWO i PRAWO 10/2023 25 nie wynika literalnie z brzmienia przepisów prawnych ani Konwencji EPC ani ustawy – Prawo własności przemysłowej) co do zasady przy- sługuje, oprócz prawa do wymieniania w charakterze twórcy w opisach, rejestrach oraz w innych dokumentach i publikacjach, także prawo do uzyskania patentu oraz prawo do wynagrodzenia (por. np. art. 8 ust. 1 oraz art. 22–23 ustawy – Prawo własności przemysłowej87). Z tego choć- by względu opowiedzenie się za zrównaniem statusu osób fizycznych i osób elektronicznych powinno prowadzić do sui generis emancypacji tych ostatnich, w pełnym możliwym zakresie zdolności prawnej. Rzecz jasna, w obecnym stanie rozwoju techniki oraz naszych wyobrażeń, nie mogłoby to dotyczyć – podobnie jak w przypadku jednostek organiza- cyjnych będących osobami prawnymi czy ustawowymi – możliwości by- cia podmiotem praw czy obowiązków rodzinnych88, ale już w obszarze prawa spadkowego kwestia regulacji przejścia praw i obowiązków po zakończeniu bytu (śmierci?) obiektu będącego sztuczną inteligencją na inne podmioty (spadkobierców?) wydaje się otwarta (oczywiście przy założeniu posiadania przez SI własnego majątku). Niemniej generalnym założeniem byłoby w omawianym ujęciu uznanie w pełnym zakresie ist- nienia własnej woli, którą dysponowałaby sztuczna inteligencja, oraz jej autonomii w kwestii uczestnictwa w stosunkach prawnych, a także zasa- dy formalnoprawnej równości wobec innych uczestników obrotu cywil- noprawnego89. Z kolei przyjęcie drugiego stanowiska musiałoby być poprzedzo- ne wypracowaniem spójnych podstaw teoretycznych oraz prognoz skut- ków praktycznych wprowadzenia nowego typu podmiotów, które w sen- sie systematycznym byłyby zbliżone z pewnością bardziej do ludzi (osób fizycznych) niż do jednostek organizacyjnych (osób prawnych, osób ustawowych)90. Prawdopodobnie można byłoby nawet zaliczać przejawy sztucznej inteligencji, obok ludzi, do kategorii istot cechujących się na- turalną podmiotowością. Wydaje się, że w tym względzie punktem wyj- ścia mogłaby być koncepcja osób elektronicznych, przy czym należa- łoby rozszerzyć jej zastosowanie daleko poza obszar odpowiedzialności 87 Ustawa z 30.06.2000 r. – Prawo własności przemysłowej, t.j. Dz.U. z 2021 r., poz. 324. 88 Mimo pewnych deklaracji samych zainteresowanych – zob. https://www.newsweek. com/sophia-saudi-robot-baby-future-family-725254 (dostęp: 2.09.2023 r.). 89 Zob. N. Martsenko, Determining…, s. 170–171. 90 Zob. S. Chopra, L.F. White, A Legal Theory for Autonomous Artificial Agents, Mi- chigan 2011, passim. W raporcie pt. „D6.2. Guidelines on Regulating Robotics”, s. 206, podkreślono jednak, że „roboty są raczej specyficzne niż wyjątkowe i w niektórych przy- padkach wymagają opracowania nowych rozwiązań w celu ich lepszego rozwoju i rozpo- wszechnienia w społeczeństwie”. Jednocześnie zauważono, iż „wybór przypisania robo- tom osobowości prawnej nie byłby oparty na ontologicznej naturze maszyny, a raczej na czysto instrumentalnym argumencie możliwości ograniczenia odpowiedzialności lub zi- dentyfikowania autonomicznego ośrodka przypisywania praw i obowiązków, jak w przy- padku korporacji”. 26 PAŃSTWO i PRAWO 10/2023 deliktowej. Pierwotnie ta koncepcja zakładała przyznanie określonych praw i obowiązków, także w zakresie odpowiedzialności odszkodo- wawczej, co najmniej najbardziej wyrafinowanym robotom o cechach autonomicznych, jak również stosowanie osobowości elektronicznej w związku z niezależnymi interakcjami takich maszyn z ludźmi. Kwe- stia zakresu przyznanej zdolności prawnej pozostawałaby do ustalenia. W każdym razie w omawianym ujęciu osoby elektroniczne byłyby pod- miotami tylko niektórych (wybranych) praw lub obowiązków. Jednym z obszarów, których mogłoby to dotyczyć, mogłaby być sfera twórczo- ści. W literaturze przedmiotu zaproponowano także koncepcję, zgodnie z którą sztuczna inteligencja (przynajmniej ten jej rodzaj, który wyka- zuje samoświadomość – tzw. „silna” SI) formalnie jedynie reprezentuje osobę prawną (spółkę kapitałową), będąc zarazem jej jedynym udzia- łowcem lub akcjonariuszem. Taka konstrukcja może mieć charakter pierwotny (przez ukonstytuowanie osoby prawnej jako swoistej nadbu- dowy nad SI i wykorzystanie jej do realizacji celów SI) bądź wtórny (SI nabywa, reprezentując osobę prawną, wszystkie udziały/akcje od pozo- stałych udziałowców lub akcjonariuszy, będących podmiotami o typie znanym obecnemu systemowi prawnemu). Omawiana konstrukcja ma w istocie skutki tożsame z nadaniem sztucznej inteligencji podmiotowo- ści prawnej, tyle że nie wprost, lecz pośrednio – w drodze uznania moż- liwości działania tej jednostki przez osobę prawną91. W każdym razie dla pełnego funkcjonowania sztucznej inteligencji w relacjach prawnych konieczne wydaje się jej usamodzielnienie (się) także w kontekście majątkowym. Sztuczna inteligencja powinna mieć realną możliwość pozyskania majątku odpowiedniego do realizacji swo- ich interesów oraz wystarczającego w kontekście odpowiedzialności cy- wilnoprawnej92. 6. Podsumowanie. Wpływ sztucznej inteligencji jest coraz bar- dziej widoczny w różnych dziedzinach. Wraz ze wzrostem mocy obli- czeniowej maszyn, sprawności oprogramowania oraz przepustowości łączy sieciowych umożliwiających przetwarzanie coraz większej ilości danych znaczenie tej nowej technologii rośnie prawie w każdym obsza- rze życia ludzi i każdym sektorze gospodarki. W raporcie Światowej Or- ganizacji Własności Intelektualnej poświęconym sztucznej inteligencji wskazano, że najważniejszymi dziedzinami, w których wykorzystywane są technologie sztucznej inteligencji, są: telekomunikacja (sieci kompu- terowe/internet, radio i telewizja, telefonia, wideokonferencje, VoIP), transport (lotnictwo/awionika, pojazdy autonomiczne, rozpoznawanie 91 Zob. A. Chłopecki, Sztuczna inteligencja..., s. 12, 15. 92 Zob. P. Machnikowski, Podmiotowość w prawie prywatnym jako problem legislacyj- ny, PiP 2023, nr 6, s. 59. PAŃSTWO i PRAWO 10/2023 27 kierowców/pojazdów, transport i inżynieria ruchu) oraz nauki przyrod- nicze i medyczne (bioinformatyka, inżynieria biologiczna, biomechani- ka, farmacja, genetyka/genomika, obrazowanie medyczne, neuronauka/ neurorobotyka, informatyka medyczna, żywienie/nauka o żywności, monitorowanie parametrów fizjologicznych, zdrowie publiczne). Tych dyscyplin dotyczy w sumie 42% chronionych wynalazków z obszaru sztucznej inteligencji93. Rozwój sztucznej inteligencji wiąże się również z wieloma wy- zwaniami. Należą do nich m.in. przemodelowanie rynku pracy, nowe interakcje społeczne, zagrożenia dla ochrony danych osobowych i pry- watności, a także problematyka regulacji prawnej funkcjonowania oraz modelu własnościowego sztucznej inteligencji i jej wytworów. W tym ostatnim obszarze można bezpośrednio lokować zagadnienie będące przedmiotem niniejszego artykułu. Rozstrzygnięcie kwestii zdolności sztucznej inteligencji do bycia twórcą – i uprawnionym – w stosunku do dóbr niematerialnych należy postrzegać w szerszym kontekście jej ogólnego statusu podmiotowego. Niemniej warto mieć na uwadze to, że system prawa własności przemysłowej (zwłaszcza prawa patentowe- go), w obrębie którego kwestia ewentualnej twórczości przypisywanej sztucznej inteligencji ma największe znaczenie, zakłada konieczność identyfikacji twórców rozwiązań podlegających ochronie. Dzieje się tak ze względu na ustalenie zarówno uprawnień do uzyskania praw wyłącz- nych (także w kontekście ich pierwotnego albo pochodnego nabycia od twórcy przez inne podmioty) oraz innych praw majątkowych (np. prawa do wynagrodzenia), jak i praw o charakterze osobistym (prawa do au- torstwa, prawa do wymienienia w charakterze twórcy w opisach, reje- strach oraz w innych dokumentach i publikacjach). Wydaje się, że niecelowe byłoby ekstrahowanie wycinka zdolno- ści prawnej, która miałaby być przyznana sztucznej inteligencji tylko w obszarze prawa własności intelektualnej94. A tak właśnie można po- strzegać omawianą decyzję Komisji ds. Spółek i Własności Intelektu- alnej RPA (CIPC) w sprawie zgłoszenia wynalazku nr ZA202103242B, a zwłaszcza pierwotne orzeczenie Sądu Federalnego Australii dotyczące wynalazku nr 2019363177. W tym ostatnim przypadku uznanie podmio- towości twórczej sztucznej inteligencji nastąpiło zresztą dość niekonse- kwentnie, bowiem jedynie w sferze deklaracji formalnych95, bez szer- 93 Zob. „WIPO Technology Trends 2019. Artificial Intelligence”, https://www.wipo.int/ edocs/pubdocs/en/wipo_pub_1055.pdf (dostęp: 2.09.2023 r.), s. 31, 38. 94 Podobnie jak ograniczanie zagadnienia podmiotowości SI tylko do kwestii odpowie- dzialności odszkodowawczej – por. P. Machnikowski, [w:] Prawo deliktowe wobec no- wych technologii, red. P. Machnikowski, Warszawa 2023, s. 184–185. 95 Przypomina to nieco sytuację nadania humanoidalnemu robotowi o imieniu „Sophia”, wyposażonemu w sztuczną inteligencję, obywatelstwa Arabii Saudyjskiej – zob. https://www.newsweek.com/saudi-arabia-robot-sophia-muslim-694152 (dostęp: 28 PAŃSTWO i PRAWO 10/2023 szej refleksji na temat przyznania praw podmiotowych, które przecież nieodłącznie wiążą się ze zjawiskiem twórczości. Uznanie podmiotowo- ści sztucznej inteligencji tylko w analizowanej dziedzinie stanowiłoby obecnie wyłom w ugruntowanej konstrukcji oraz katalogu podmiotów prawa cywilnego. Prezentowane podejście nie wyklucza, rzecz jasna, możliwości przyznania sztucznej inteligencji zdolności prawnej w przy- szłości. Taka zmiana musiałaby jednak zostać poprzedzona gruntownym namysłem legislacyjnym i przygotowaniem stosownych podstaw norma- tywnych, w ramach których należałoby wypracować przede wszystkim optymalny (społecznie, technologicznie, prawnie) model regulacji pod- miotowości prawnej sztucznej inteligencji. Wydaje się, że obecnie brak jest wystarczających przesłanek do przesądzenia tej kwestii – z uwagi na trwający niezwykle dynamiczny rozwój sztucznej inteligencji, nowe obszary jej zastosowania, a także niezidentyfikowane szanse i zagro- żenia, które muszą być brane pod uwagę. Punktem wyjścia do dysku- sji mogłoby być zestawienie dwóch teoretycznych nurtów omówionych w niniejszym opracowaniu. Wybór docelowej ścieżki powinien zależeć od przyjętych założeń systemowych, dla których twórczość intelektual- na może być jednym z istotnych czynników, lecz niekoniecznie najważ- niejszym. Jeśli chodzi o obszar prawa własności przemysłowej (ściślej – pra- wa patentowego), w którym zagadnienie stwierdzenia ewentualnej twór- czości sztucznej inteligencji dało w ostatnim czasie asumpt do nowych rozważań, to w okresie przejściowym nie jest wykluczone identyfikowa- nie i wskazywanie udziału sztucznej inteligencji w pracach nad stwo- rzeniem dóbr niematerialnych jako swego rodzaju pomocy technicznej świadczonej nominalnemu twórcy – osobie fizycznej, która stworzyła (oprogramowała) sztuczną inteligencję, kontroluje ją lub w inny istotny sposób się nią posługuje. Tego rodzaju atrybucja pomocnicza miałaby charakter jedynie informacyjny, pełniłaby rolę wzmianki porządkującej. Nie potwierdzałaby zatem twórczości ani współtwórczości i w związku z tym nie mogłaby stanowić podstawy roszczeń ani osobistych (prawo do autorstwa), ani majątkowych (prawo do uzyskania prawa wyłączne- go, prawo do wynagrodzenia) na rzecz sztucznej inteligencji. Mogłaby jednak przez potwierdzenie związku danego twórcy z wykorzystywaną przez niego sztuczną inteligencją stanowić podstawę ewentualnej od- powiedzialności tego podmiotu wobec osób trzecich. W omawianym za- kresie praktyka urzędowa musiałaby ulec wyraźnej zmianie, ponieważ w obecnym stanie prawnym osoby uczestniczące w pracach nad danym rozwiązaniem w sposób nietwórczy nie są w ogóle ujawniane w doku- 2.09.2023 r.) czy nadania chatbotowi o nazwie „Shibuya Mirai”, zaprogramowanemu jako wcielenie 7-letniego dziecka, statusu mieszkańca Tokio – zob. https://www.news- week.com/tokyo-residency-artificial-intelligence-boy-shibuya-mirai-702382 (dostęp: 2.09.2023 r.). PAŃSTWO i PRAWO 10/2023 29 mentacji zgłoszeniowej projektów wynalazczych. Wskazanie w zgłosze- niu takiego dobra niematerialnego jakiegokolwiek podmiotu w części dotyczącej twórcy czy współtwórców jest oświadczeniem wywołującym określone skutki prawne związane z twórczością czy współtwórczością tak określonej osoby. W przypadku sztucznej inteligencji chodziłoby ra- czej o uznanie wykorzystanego przez człowieka potencjału maszyny/ programu komputerowego do osiągnięcia własnych rezultatów twór- czych, z którymi się identyfikuje i za które jest i powinien być odpowie- dzialny, także w znaczeniu prawnym. Podobna konkluzja może dotyczyć dziedziny prawa autorskiego. W przypadkach, w których udział sztucznej inteligencji w pracach nad stworzeniem utworu nadawałby się do merytorycznej kwalifi- kacji jako współtwórczość – do czasu wypracowania stanowiska oraz odpowiednich konstrukcji prawnych w sprawie podmiotowości SI – mógłby i powinien być komunikowany jako sui generis pomoc. Ta- kie podejście postuluje się już zresztą w literaturze przedmiotu w od- niesieniu do utworów naukowych współtworzonych przez sztuczną inteligencję96. Kwestia podmiotowości sztucznej inteligencji w kontekście twór- czości intelektualnej pozostaje otwarta. Wydaje się, że należy w tej mie- rze obrać szeroką, przede wszystkim prywatnoprawną, perspektywę, wykazując otwartość, a jednocześnie zachowując daleko idącą ostroż- ność (głównie z uwagi na istnienie wielu ciągle niejasnych zmiennych). Nie można jednak a limine wykluczać możliwości upodmiotowienia SI ze wszelkimi tego konsekwencjami, zwłaszcza w sferze prawa oraz etyki. Ewentualne przyszłe przyznanie sztucznej inteligencji zdolności prawnej nie musi dotyczyć wszystkich form SI, lecz może odnosić się tylko do tych jej przejawów, które cechuje samoświadomość i autono- mia działania. Nazwa tej kategorii, określanej niekiedy jako „silna SI”, mogłaby zostać zmieniona na „pozaludzką inteligencję” (ang. „non- human intelligence”). Już dziś bowiem, z uwagi na dynamiczny rozwój technologii SI, można dostrzec zarysowującą się nieadekwatność uży- wanego obecnie terminu „sztuczna inteligencja” do określania nieza- leżnych od człowieka, samodzielnie działających algorytmów. Taka in- teligencja przestaje być postrzegana jedynie jako pochodna ludzkiego umysłu, nie jest tworem udawanym, nienaturalnym, sztucznym (pod- stawowe znaczenia ang. określnika artificial). Jest po prostu odmienna, alternatywna wobec ludzkiego pierwowzoru/odpowiednika. Nadeszła pora, aby prawo, które co prawda z reguły podąża w ślad za zmianami społecznymi (co jest do pewnego stopnia nieuniknione), tym razem je wyprzedziło albo co najmniej dorównało ich biegowi. Prawodawcy po- 96 Por. J.Y. Lee, Can an artificial intelligence chatbot be the author of a scholarly article?, Science Editing 2023, nr 10, s. 10; R. Markiewicz, ChatGPT..., s. 156–158. 30 PAŃSTWO i PRAWO 10/2023 winni przygotować społeczeństwa na nową wielowymiarową rewolucję technologiczną, społeczną i kulturową związaną z obecnością SI, której raczej nie da się powstrzymać (zresztą nie ma chyba takiej potrzeby ani takich oczekiwań). Stawka jest w tym przypadku zbyt wysoka (kwestia ujęcia prywatnoprawnego stanowi jedynie wycinek szerszej problema- tyki istnienia i działania sztucznej inteligencji), aby biernie czekać na rozwój wypadków. Ludzkość musi przejąć inicjatywę i określić ramy prawne funkcjonowania sztucznej inteligencji. Śledząc dotychczasowe działania koncepcyjno-prawodawcze, można żywić nadzieję, że Europa jest najbliższa przyjęcia nowoczesnej kompleksowej regulacji dotyczą- cej statusu SI i może stać się wzorem dla reszty świata w tej dziedzinie. Aby omawiany proces nastąpił, projektowane rozporządzenie AIA (lub odrębny akt prawny UE) powinno zyskać szerszy kontekst, odnosząc się do kwestii podstawowych, w szczególności do zagadnienia potencjal- nej podmiotowości sztucznej inteligencji, a przynajmniej niektórych jej (określonych wyżej jako „pozaludzkie”) przejawów. Artificial Intelligence as a Holder of Intellectual Property Rights The development of artificial intelligence, apart from the obvious benefits, is also associated with many challenges. One of them is the is- sue of legal regulation of the functioning and the ownership model of ar- tificial intelligence and its output. This article addresses the issue of the potential subjectivity of artificial intelligence under intellectual proper- ty law. The issue under analysis should be approached in the broader context of the catalogue of subjects of civil law. Recognizing the subje- ctivity of artificial intelligence only in the field of intellectual property would currently constitute a departure from the well-established struc- ture and catalogue of subjects of civil law. The presented approach does not exclude the possibility of granting legal capacity to artificial intelli- gence in the future, following the development of the ideological, ethi- cal, and legal foundations of the functioning of this specific category of entities. Słowa kluczowe: sztuczna inteligencja, SI, własność intelektualna, osoby elektroniczne, zdolność prawna Keywords: artificial intelligence, AI, intellectual property, electro- nic persons, legal capacit PAŃSTWO i PRAWO 10/2023 31  Bibliografia Bałos I., Sztuczna inteligencja i jej wynalazki – studium przypadku, Zeszyty Naukowe Uniwersytetu Jagiellońskiego. Prace z Prawa Własności Inte- lektualnej 2020, nr 1 Bonadio E., McDonagh L., Artificial intelligence as producer and consumer of copyright works: evaluating the consequences of algorithmic creativity, Intellectual Property Quarterly 2020, nr 2 Chłopecki A., Sztuczna inteligencja – szkice prawnicze i futurologiczne, War- szawa 2021 Chopra S., White L.F., A Legal Theory for Autonomous Artificial Agents, Michi- gan 2011 Clifford R.D., Intellectual Property in the Era of the Creative Computer Pro- gram: Will the True Creator Please Stand Up?, Tulane Law Review 1997, nr 71 Czub K., Konstrukcja autorskich dóbr i praw osobistych po śmierci twórcy, PiP 2011, nr 11 Denicola C., Ex Machina: Copyright Protections for Computer-Generated Works, Rutgers University Law Review 2016, nr 69 Dorotheou E., Reap the Benefits and Avoid the Legal Uncertainty, Computer and Telecommunications Law Review 2015, nr 21 Fischer B., Pązik A., Świerczyński A. (red.), Prawo sztucznej inteligencji i no- wych technologii, Warszawa 2021 Goldberg M.D., Carson D.O., Copyright Protection for Artificial Intelligence Systems, Journal of the Copyright Society of the U.S.A. 1991, nr 39 Gołaczyński J. i in. (red.), Non omnis moriar. Osobiste i majątkowe aspekty prawne śmierci człowieka. Zagadnienia wybrane, Wrocław 2015 Hawking S., Russell S., Tegmark M., Wilczek F., Success in creating Artificial Intelligence would be the biggest event in human history, The Indepen- dent z 2.05.2014 r. Hedrick F., I Think, Therefore I Create, NYU Journal of Intellectual Property & Entertainment Law 2019, nr 8 Hristov K., Artificial Intelligence and the Copyright Dilemma, IDEA: The Journal of the Franklin Pierce Center for Intellectual Property 2017, vol. 57, nr 3 Hugenholtz P.B., Quintais J.P., Copyright and Artificial Creation: Does EU Co- pyright Law Protect AI-Assisted Output?, IIC – International Review of Intellectual Property and Competition Law 2021, t. 52 Huson G., I, Copyright, Santa Clara High Technology Law Journal 2018, nr 35 Jensen C.B., Blok A., Techno-animism in Japan: Shinto cosmograms, actornet­ work theory, and the enabling powers of non-human agencies, Theory, Culture & Society 2013, nr 30 32 PAŃSTWO i PRAWO 10/2023 Kaplan F., Who is afraid of the humanoid? Investigating cultural differences in the acceptance of robots, International Journal of Humanoid Robotics 2004, nr 1 Katsuno H., The robot’s heart: Tinkering with humanity and intimacy in robot- building, Japanese Studies 2011, vol. 31 Kitano N., „Rinri”: An incitement towards the existence of robots in Japanese society, Ethics in Robotics 2006, nr 6 Krausová A., Intersections between Law and Artificial Intelligence, Interna- tional Journal of Computer 2017, vol. 27 Krawczyk M., Golem. Analiza korzeni nowożytnej legendy żydowskiej, Zeszyty Naukowe Uniwersytetu Jagiellońskiego. Studia Religiologica 2007, vol. 40 Lai L., Świerczyński M. (red.), Prawo sztucznej inteligencji, Warszawa 2020 Lee J.Y., Can an artificial intelligence chatbot be the author of a scholarly article?, Science Editing 2023, nr 10 Machnikowski P., Podmiotowość w prawie prywatnym jako problem legisla- cyjny, PiP 2023, nr 6 Machnikowski P. (red.), Prawo deliktowe wobec nowych technologii, Warsza- wa 2023 Markiewicz R., ChatGPT i prawo autorskie Unii Europejskiej, Zeszyty Nauko- we Uniwersytetu Jagiellońskiego. Prace z Prawa Własności Intelektual- nej2023, nr 2 Martsenko N., Determining the place of artificial intelligence in civil law, Stu- dia Prawnoustrojowe 2020, nr 47 Naqvi Z., Artifificial Intelligence, Copyright, and Copyright Infringement, Mar- quette Intellectual Property Law Review 2020, vol. 24, nr 1 Pietrzykowski T., Ludzkie niezbyt ludzkie. Esej o podmiotowości prawnej i wyzwaniach XXI wieku, Katowice 2016 Pinto T., Robo ART! The Copyright Implications of Artificial Intelligence Gene- rated Art, Entertainment Law Review 2019, nr 30 Ramalho A., Originality redux: an analysis of the originality requirement in AI-generated works, AIDA 2019, nr 7 Reid M., Rethinking the Fourth Amendment in the Age of Supercomputers, Artificial Intelligence, and Robots, West Virginia Law Review 2017, nr 119(3) Rissland E.L., Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning, The Yale Law Journal 19990, nr 8(99) Robertson J., Robo Sapiens Japanicus: Robots, Gender, Family, and the Japa- nese Nation, Orlando 2017 Sainato M., Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence, Observer z 19.08.2015 r. Samuel A.L., Some Studies in Machine Learning Using the Game of Checkers, IBM Journal of Research and Development 1959, nr 7 PAŃSTWO i PRAWO 10/2023 33 Samuel A.L., Some Studies in Machine Learning Using the Game of Checkers. II – Recent Progress, IBM Journal of Research and Development 1957, nr 11 Samuelson P., Allocating Ownership Rights in Computer-Generated Works, University of Pittsburgh Law Review 1986, nr 47 Scherer M.U., Regulating Ar