OpenAI przyznaje: umowa z Pentagonem była „pośpieszna”

W skrócie:

Sam Altman przyznał, że umowa OpenAI z Pentagonem była „zdecydowanie pośpieszna” i „optyka nie wygląda dobrze”

OpenAI ujawniło więcej szczegółów o współpracy z Departamentem Obrony USA po fali krytyki

Firma tłumaczy, że technologia nie będzie używana do autonomicznych systemów broni

Umowa pokazuje rosnącą presję na firmy AI, by określiły granice współpracy z wojskiem

Sam Altman rzadko przyznaje się do błędów publicznie. Tym razem jednak CEO OpenAI powiedział wprost: umowa z Pentagonem była „zdecydowanie pośpieszna”, a „optyka nie wygląda dobrze”. To niezwykłe przyznanie pojawia się po tygodniach spekulacji i krytyki ze strony badaczy AI, aktywistów i części społeczności technologicznej.

OpenAI przez lata pozycjonowało się jako firma stawiająca bezpieczeństwo AI ponad zyski. Teraz musi tłumaczyć, dlaczego podpisało kontrakt z jedną z największych maszyn wojennych świata. I robi to dość niezgrabnie.

OpenAI i Pentagon – umowa, która wywołała kontrowersje

Co dokładnie OpenAI robi dla Pentagonu

Firma ujawniła więcej szczegółów po tym, jak Pentagon wezwał również szefa Anthropic do rozmów o wykorzystaniu AI w wojsku. OpenAI twierdzi, że ich technologia będzie używana wyłącznie do zadań analitycznych i logistycznych. Przetwarzanie danych wywiadowczych, optymalizacja łańcuchów dostaw, analiza zdjęć satelitarnych.

Kluczowe zastrzeżenie: GPT nie będzie integrowany z autonomicznymi systemami broni. Uspokajające? Problem w tym, że granica między „analizą danych” a „wsparciem decyzji bojowych” jest cieńsza niż chciałoby się przyznać.

OpenAI podkreśla też, że współpraca obejmuje „czerwone linie” – zakazy określonych zastosowań. Jakie dokładnie? Tego firma nie ujawnia. Powołuje się na klauzule poufności. Wygodne.

Dlaczego „pośpieszna”?

Altman przyznał, że umowa została sfinalizowana szybciej niż standardowe kontrakty korporacyjne OpenAI. Dlaczego? Presja konkurencyjna. Inne firmy AI – w tym Palantir i Anthropic z Claude – już pracują z sektorem obronnym. OpenAI nie chciało zostać w tyle.

To szczera odpowiedź. Niekoniecznie uspokajająca. Jeśli decyzje o współpracy z wojskiem podejmujesz pod presją rynku, a nie po dogłębnej analizie etycznej – mamy problem.

Analiza danych – oficjalne zastosowanie AI w wojsku

Zmiana polityki użytkowania

Do stycznia 2024 regulamin OpenAI wyraźnie zakazywał używania ich technologii do celów wojskowych i zbrojeniowych. Potem ta klauzula zniknęła. Firma tłumaczyła, że chodzi o „doprecyzowanie”. Że zawsze chodziło o zakaz broni, nie współpracy z wojskiem jako takim.

Semantyka? Może. Zmiana przyszła tuż przed ogłoszeniem kontraktu z Pentagonem. Zbieg okoliczności? Raczej przemyślana strategia PR.

OpenAI teraz twierdzi, że nowa polityka jest „bardziej precyzyjna” i pozwala na współpracę z instytucjami obronnymi przy projektach niezwiązanych bezpośrednio z działaniami bojowymi. Problem w tym, że w praktyce wojskowej wszystko jest „wsparciem misji”. Gdzie kończy się logistyka, a zaczyna operacja bojowa?

Reakcja społeczności AI

Część badaczy AI ostro skrytykowała ruch OpenAI. Timnit Gebru, była współszefowa działu etyki AI w Google, nazwała to „przewidywalną zdradą wartości”. Inni eksperci wskazują, że OpenAI coraz bardziej przypomina typową korporację, która deklaracje o bezpieczeństwie traktuje jako marketing, nie zasady.

Z drugiej strony część środowiska argumentuje: lepiej, by zaawansowane AI w wojsku było kontrolowane przez firmy z przynajmniej jakimiś standardami etycznymi, niż by Pentagon rozwijał własne, niekontrolowane systemy.

Granice etyczne AI – łatwiej je zadeklarować niż egzekwować

Co to znaczy dla rynku AI

Umowa OpenAI z Pentagonem to nie tylko problem jednej firmy. To sygnał, że granice między AI cywilnym a wojskowym zacierają się. Każdy duży model językowy – od ChatGPT po Claude – może teoretycznie być użyty do analizy danych wywiadowczych.

Dla firm AI to dylemat: czy współpracować z wojskiem i mieć wpływ na to, jak technologia jest używana? Czy odmówić i pozwolić, by inne firmy (lub rządy) rozwijały własne, mniej kontrolowane systemy?

Dla Ciebie jako użytkownika to pytanie o zaufanie. Jeśli OpenAI zmienia politykę pod presją rynku, co jeszcze może się zmienić? Reklamy w ChatGPT to jedno. Współpraca z wojskiem to zupełnie inna skala.

Polska perspektywa

W Polsce i UE temat AI w wojsku jest równie gorący. Unia pracuje nad AI Act, który ma regulować wysokiego ryzyka zastosowania AI – w tym wojskowe. Polskie Ministerstwo Obrony Narodowej testuje własne systemy AI do analizy danych. Pytanie, czy będą one podlegać takim samym standardom transparentności, jakich oczekujemy od OpenAI.

Altman przyznał się do błędu w komunikacji. To rzadkie i warte odnotowania. Czy wystarczy? OpenAI obiecuje więcej transparentności w przyszłości, ale szczegóły umowy z Pentagonem wciąż są tajne. Firma chce, byśmy ufali jej deklaracjom, nie faktom.

Może to zadziała. Może OpenAI rzeczywiście ustanowi standardy etyczne dla AI w wojsku. A może za rok dowiesz się, że kolejna „pośpieszna” umowa przekroczyła kolejną granicę. Czas pokaże, czy ta szczerość to początek nowej polityki, czy tylko PR po wpadce.

Źródła

TechCrunch: OpenAI reveals more details about its agreement with the Pentagon