OpenAI chce kontrolować "superinteligentną" AI

OpenAI tworzy nowy zespół, który będzie opracowywał nowe sposoby zarządzania i kontrolowania „superinteligentnych” systemów sztucznej inteligencji.

OpenAI będzie lepsze od ludzi za dziesięć lat

W opublikowanym dzisiaj poście na blogu Sutskever i Jan Leike, lider zespołu dopasowującego w OpenAI, przewidują, że sztuczna inteligencja, przewyższająca ludzką pojawić się w ciągu dekady. Ta sztuczna inteligencja – zakładając, że w końcu się pojawi – niekoniecznie jednak będzie "życzliwa", a to wymaga badań nad sposobami jej kontrolowania i ograniczania, mówią Sutskever i Leike.

Obecnie nie mamy rozwiązania do kierowania lub kontrolowania potencjalnie superinteligentnej sztucznej inteligencji i zapobiegania jej zbuntowaniu się. Nasze obecne techniki dostosowywania sztucznej inteligencji, takie jak uczenie się przez wzmacnianie na podstawie informacji zwrotnych od ludzi, opierają się na zdolności ludzi do nadzorowania sztucznej inteligencji. Ale ludzie nie będą w stanie niezawodnie nadzorować systemów sztucznej inteligencji o wiele mądrzejszych od nas.

OpenAI tworzy więc nowy zespół Superalignment

Zespół kierowany będzie zarówno przez Sutskevera, jak i Leike, który będzie miał dostęp do 20% mocy obliczeniowej, którą firma zabezpieczyła do tej pory. Zespół będzie dążył do rozwiązania podstawowych wyzwań technicznych związanych z kontrolowaniem superinteligentnej sztucznej inteligencji w ciągu najbliższych czterech lat.

Jak? Tworząc coś, co Sutskever i Leike opisują jako „zautomatyzowanego badacza wyrównania na poziomie człowieka”. Celem jest szkolenie systemów sztucznej inteligencji z wykorzystaniem informacji zwrotnych od ludzi tak, aby pomagała w ocenie innych systemów sztucznej inteligencji, a ostatecznie zbudowanie sztucznej inteligencji, która może przeprowadzać "badania dopasowywania". (Tutaj „badania nad dostosowaniem” odnoszą się do zapewnienia, że systemy sztucznej inteligencji osiągają pożądane wyniki lub nie zbaczają z torów).

Systemy OpenAI

W miarę postępów w tej dziedzinie nasze systemy sztucznej inteligencji mogą przejmować coraz więcej naszych prac związanych z dopasowywaniem i ostatecznie wymyślać, wdrażać, badać i rozwijać lepsze techniki dopasowywania niż te, które mamy obecnie — postulowali Leike i jego współpracownicy, John Schulman i Jeffrey Wu - Ludzcy badacze będą coraz bardziej koncentrować się na przeglądaniu badań dotyczących dopasowywania przeprowadzonych przez systemy sztucznej inteligencji, zamiast generować je samodzielnie.

Oczywiście żadna metoda nie jest niezawodna — a Leike, Schulman i Wu przyznają w swoim poście wiele ograniczeń OpenAI. Mówią, że wykorzystanie sztucznej inteligencji do oceny może potencjalnie zwiększyć skalę niespójności, uprzedzeń lub słabych punktów w tej sztucznej inteligencji. I może się okazać, że najtrudniejsze części problemu osiowania mogą wcale nie być związane z inżynierią.

W OpenAI ważają, że warto spróbować

Dopasowanie superinteligencji jest zasadniczo problemem uczenia maszynowego i uważamy, że świetni eksperci od uczenia maszynowego – nawet jeśli jeszcze nie pracują nad dopasowaniem – będą kluczowi do jego rozwiązania” – piszą. - Planujemy szeroko dzielić się owocami tych wysiłków i postrzegać wkład w dostosowanie i bezpieczeństwo modeli innych niż OpenAI jako ważną część naszej pracy.

Pobierz ebook "Social media marketing dla firm i agencje się w nim specjalizujące"