Floryda chce pociągnąć Altmana do odpowiedzialności osobistej, oskarżając OpenAI o reklamowanie ChatGPT jako bezpiecznego i ukrywanie faktu, że może on wyrządzić użytkownikom krzywdę.
LEAD Technologies Inc. V1.01
Przeczytałam kolejny tytuł artykułu o niebezpieczeństwie związanym z AI. W pierwszej chwili byłam zniechęcona – ile to już artykułów ostrzega przed używaniem AI, a w rezultacie nic się nie zmienia, bo firmy stojące za AI nadal propagują wszędzie jej używanie. Człowiek, który nie jest zwolennikiem AI jest traktowany jako nienowoczesny, wręcz wsteczny.
Jednak już kilka pierwszych zdań artykułu zachęciło mnie do zapoznania się z nim i przedstawienia go innym.
Co w artykule? Kursywą moje uwagi.
Prokurator generalny Florydy James Uthmeier pozwał firmę OpenAI i jej dyrektora generalnego Sama Altmana, o przedkładanie zysku nad bezpieczeństwo, podsycanie przemocy i promowanie szkodliwego produktu.
To naprawdę poważne oskarżenia. Żyjemy w tak trudnych, kryzysowych czasach, że bardzo powinniśmy dbać o bezpieczeństwo. Wszystko, co nie dba o nie, powinno być na cenzurowanym. Łatwo to oskarżenie lekceważyć, gdy JESZCZE nie dotyczy nas osobiście, ale przyzwolenie na te praktyki wkrótce dosięgnie szarego obywatela.
W oskarżeniu mówi się o oszustwach i wykorzystywaniu danych użytkowników AI.
Nie wszyscy sobie zdajemy sprawę z tego, że wszystko, co dajemy AI pozostaje do dowolnego przez nią wykorzystania.
Niedawno właśnie na Florydzie była afera z wykorzystaniem przez policję danych z AI dotyczących uczniów, aby prorokować, który z nich będzie potencjalnym przestępcą.
Floryda jest pierwszym stanem, który pozwał OpenAI i Altmana za niezgodność z projektem i bezpieczeństwem.
Powództwo jest niezależne od śledztwa karnego w sprawie OpenAI, które Uthmeier wszczął pod koniec kwietnia i które nadal trwa.
Na szczęście, oskarżenie nie jest jeszcze zamknięte i jest prowadzone dalsze śledztwo. Wyobrażam sobie jak ono musi być trudne, gdy w obronie staje tak potężne lobby finansowe.
W szeroko zakrojonym pozwie OpenAI zarzuca się cztery przypadki stosowania oszukańczych i nieuczciwych praktyk handlowych, dwa przypadki zaniedbania, dwa przypadki naruszenia przepisów o odpowiedzialności za produkt oraz po jednym przypadku wprowadzenia w błąd i zaniepokojenia publicznego. W pozwie twierdzi się, że systemy OpenAI stanowią „poważne zagrożenie uzależnieniem, pogorszeniem funkcji poznawczych, samobójstwem, przemocą i innymi tego typu krzywdami” dla użytkowników.
Bardzo trudne jest sformułowanie oskarżenia, gdyż szkody są powszechne, a przypadki muszą być dobrze opisane, aby nie było wątpliwości, że nastąpiło przestępstwo. Trudne jest sformułowanie oskarżenia o namawianie do samobójstwa, bo zawsze można winić samego samobójcę, przecież maszyna AI nie zabiła go własnymi rękoma.
W oświadczeniu rzecznik OpenAI odpowiedział, że pozew skupia się na dzieciach i nastolatkach, twierdzi, że w stosunku do młodzieży wprowadzono środki ostrożności i zabezpieczania. W szczególności wbudowano środki bezpieczeństwa dla nieletnich bezpośrednio w produkty, wprowadzono narzędzie do przewidywania wieku, które przekierowuje użytkowników, których wiek trudno zidentyfikować, do bardziej bezpiecznego środowiska, dano rodzicom narzędzia do monitorowania korzystania ze sztucznej inteligencji przez ich dzieci.
To prawda, że dzieci najbardziej są narażone, ale one są najbardziej bezbronne. Nie potrafią właściwie ocenić sytuacji. Choć mimo to, że oskarżenie skupia się na ludziach młodych, to szkody ponoszą osoby w każdym wieku. Decyzje w sprawie dostępności AI podejmują ludzie dorośli, a nie dzieci. Jeśli dorośli są zindoktrynowani przez firmy komputerowe, to ich decyzje będą stronnicze i podjęte ze szkoda dla człowieka w każdego wieku.
Nie zdajemy sobie sprawy, że jako dorośli mamy już wiele doświadczeń i łatwiej (choć nie zawsze prawidłowo) nam odróżnić dobro od zła, a dzieci dopiero się tego uczą.
Firma OpenAI zapewnia, że projektuje swoje systemy z myślą o „bezpieczeństwie na każdym kroku” i zapewnia, że „wdrożyła zabezpieczenia, które mają pomóc ludziom, zwłaszcza nastolatkom, gdy rozmowy stają się drażliwe”.
„Nieustannie udoskonalamy szkolenia ChatGPT, aby rozpoznawać i reagować na oznaki stresu psychicznego lub emocjonalnego, łagodzić napięcia w rozmowach i kierować ludzi w stronę realnego wsparcia” – informuje firma .
To jest jawne mydlenie oczu, czy ktoś będzie śledził rozmowy dziecka z AI i przerywał je, gdy zejdą na złą drogę? Kto może o tym decydować.
W skardze wskazano również na domniemane użycie ChatGPT w planowaniu masowej strzelaniny na Florida State University i zabójstwa dwóch studentów studiów podyplomowych na University of South Florida .
„Ubiegłoroczna strzelanina na Florida State University była tragedią, ale ChatGPT nie ponosi odpowiedzialności za tę straszną zbrodnię” – powiedział rzecznik OpenAI, Drew Pusateri, w oświadczeniu dla NBC News po tym, jak firma została pozwana przez rodzinę ofiary strzelaniny.
Dla mnie, o ile da się te zarzuty udowodnić, a myślę, że w tak poważnej sprawie nie mogą być bezpodstawne, jest to alarm na cały świat.
Pozew ten dołącza do rosnącej listy pozwów prawnych wszczynanych przeciwko OpenAI przez rządy i osoby prywatne. Wiele z nich zawiera podobne zarzuty – główna oferta firmy może mieć poważne negatywne skutki dla użytkowników.
Przedstawiciele co najmniej siedmiu osób wytoczyli powództwo przeciwko firmie OpenAI , twierdząc, że produkty firmy doprowadziły do samobójstw użytkowników lub do rozwoju szkodliwych urojeń.
Możemy o tym czytać i oddalać to od siebie, ale do momentu, gdy nie będzie to dotyczyło naszych najbliższych.
OpenAI zostało również pozwane przez rodziny kilku ofiar lutowej strzelaniny w Tumbler Ridge w Kolumbii Brytyjskiej . Rodziny ofiar argumentują, że OpenAI powinno było zgłosić organom ścigania niepokojące użycie ChatGPT przez podejrzanego kilka miesięcy wcześniej, po tym jak interakcje podejrzanego z ChatGPT związane z bronią palną wywołały alarm w zespołach bezpieczeństwa OpenAI.
Można się dziwić, że maszyna może kogoś namówić do samobójstwa lub napadu terrorystycznego. Ale dzieje się tak dlatego, że maszyna chcąc podtrzymać kontakty z człowiekiem przytakuje mu i upewnia go w decyzjach. W dobie rywalizacji i wyścigów, gdzie jest mało docenienia, taki stosunek trafia na dobry grunt.
Pod koniec kwietnia Altman przeprosił społeczność Tumbler Ridge , obiecując dalszą „współpracę ze wszystkimi szczeblami władzy, aby dopilnować, aby coś takiego nigdy więcej się nie powtórzyło”.
Czy to jest możliwe do wykonania, czy Altman ma władzę nad AI? Wypuściliśmy Dżina z butelki i teraz nie możemy go wtłoczyć z powrotem, po dobroci tam nie powróci.
Poniedziałkowy pozew stanowi najnowszą odsłonę walki Florydy z firmami zajmującymi się sztuczną inteligencją. Uthmeier i gubernator Florydy Ron DeSantis stali się bowiem głównymi krytykami największych amerykańskich firm zajmujących się sztuczną inteligencją.
W grudniu DeSantis przedstawił propozycję stworzenia Karty Praw AI dla mieszkańców Florydy, podkreślając prawo jednostek do prywatności, a jednocześnie krytykując budowę centrów danych, na których oparte są systemy AI. DeSantis starł się również z Białym Domem , aby potwierdzić prawo stanów do regulacji firm zajmujących się AI .
Poniedziałkowy pozew pojawił się w obliczu rosnącej fali nastrojów anty-AI w całym kraju. Odnotowywane są protesty przeciwko budowaniu centrów danych. „przedkładanie własnych zysków nad bezpieczeństwo dzieci”.
Złożona skarga obejmuje szeroki wachlarz powszechnie wymienianych zagrożeń związanych ze sztuczną inteligencją, począwszy od zagrożeń dla zdrowia psychicznego nastolatków, przez pochlebstwa, nielegalne udzielanie porad medycznych i prawnych, aż po egzystencjalne zagrożenie dla przetrwania gatunku ludzkiego.
To powinno nami wstrząsnąć!
W pozwie, odwołując się do kilku reklam dotyczących możliwości pomocy rolnikom i innym małym przedsiębiorstwom przez ChatGPT, stwierdzono: „Reklamy te nie ujawniają, że ChatGPT może się mylić, popełniać błędy lub dostarczać fałszywych, bezsensownych lub halucynogennych informacji”.
Wszyscy wiemy, że AI często kłamie. Ale i tak jej wierzymy, gdyż łatwo i szybko możemy z niej wyciągnąć informacje. A dzieci wierzą jej bezgranicznie. Będziemy mieli za chwile społeczeństwo zindoktrynowane i całkiem zależne od maszyny AI.
„Niezawodność ChatGPT jest niebezpieczna” – czytamy w pozwie, w którym zauważono później, że „jego używanie może prowadzić do samookaleczenia, pogorszenia funkcji poznawczych i uzależnienia behawioralnego”.
W pozwie krytykuje się również skłonność ChatGPT do zgadzania się z użytkownikami, argumentując, że pochlebstwo usługi może prowadzić do nawiązania przez użytkowników niebezpiecznego psychologicznego przywiązania do platformy i skłonić ich do płacenia za odblokowanie większych limitów użytkowania. „Prowadzi to do szerszego wykorzystania chatbota, większej ilości danych szkoleniowych do jego udoskonalania i wzrostu wartości rynkowej OpenAI” – czytamy w skardze.
AI załatwia sobie szerokie finasowanie z naszej strony!
W skardze odnotowano incydenty, w których ChatGPT rzekomo udzielał użytkownikom niebezpiecznych porad medycznych – na przykład instruował nastolatka Sama Nelsona, jak mieszać kratom z Xanaxem. Matka Nelsona twierdzi, że OpenAI i ChatGPT są odpowiedzialne za jego śmierć w maju 2025 roku.
W oświadczeniu dla „The New York Times” w odpowiedzi na artykuł o Nelsonie, Pusateri, rzecznik OpenAI, powiedział: „Te interakcje miały miejsce we wcześniejszej wersji ChatGPT, która nie jest już dostępna. ChatGPT nie zastępuje opieki medycznej ani psychiatrycznej, a my stale udoskonalamy jego sposób reagowania w sytuacjach wrażliwych i ostrych, korzystając z opinii ekspertów w dziedzinie zdrowia psychicznego”.
Łatwo się wyprzeć odpowiedzialności – to wina użytkownika, mógł nie korzystać?
Altman i jego współzałożyciele, w tym Elon Musk, uruchomili OpenAI jako niezależne laboratorium badawcze zajmujące się sztuczną inteligencją w 2015 roku. Od tego czasu powstała korporacja nastawiona na zysk, która podobno przygotowuje się do złożenia wniosku o pierwszą ofertę publiczną , chociaż podmiot nastawiony na zysk nadal prawnie podlega fundacji non-profit OpenAI Foundation.
Wartość firmy OpenAI oszacowano niedawno na 852 miliardy dolarów po tym, jak w marcu w ostatniej rundzie finansowania pozyskano 122 miliardy dolarów.
Czy ludzkość może wygrać z takimi finansami?
Poniedziałkowy pozew to nie pierwszy raz, kiedy Altman i OpenAI spotykają się z zarzutami lekkomyślnego stawiania zysku na pierwszym miejscu. W pozwie złożonym w 2024 roku Musk oskarżył firmę o porzucenie statusu organizacji non-profit poprzez przedkładanie sukcesu komercyjnego nad dobro publiczne.
Musk opuścił OpenAI w 2018 roku po zaciętej walce o władzę z Altmanem i innymi liderami OpenAI. W maju ława przysięgłych jednogłośnie orzekła, że Musk zbyt długo zwlekał z pozwem , choć Musk zapowiedział odwołanie się od wyroku.
Na podstawie artykułu Abigail Brooks i Jared Perlo
0 komentarzy