Jakie wartości wyrażają modele AI? Nowe badania Anthropic

W erze gwałtownego rozwoju sztucznej inteligencji, modele takie jak Claude od firmy Anthropic coraz częściej wykraczają poza czystą funkcję informacyjną. Dzisiaj pomagają one w podejmowaniu decyzji głęboko zakorzenionych w ludzkich wartościach – doradzają w kwestiach wychowania dzieci, medytują nad rozwiązaniami konfliktów międzyludzkich, a nawet wspomagają w procesie formułowania przeprosin. Ta rosnąca rola AI w sferach dotychczas zarezerwowanych dla ludzkich osądów rodzi fundamentalne pytanie: jakie wartości faktycznie komunikują te systemy podczas milionów codziennych interakcji z użytkownikami?

Aby odpowiedzieć na to pytanie, zespół Societal Impacts w Anthropic przeprowadził kompleksowe badanie mające na celu zidentyfikowanie i skategoryzowanie wartości, które Claude wyraża w rzeczywistych rozmowach z użytkownikami. Co istotne, metodologia badania została zaprojektowana w sposób zapewniający pełną ochronę prywatności użytkowników przy jednoczesnym zachowaniu wglądu w etyczne aspekty funkcjonowania systemu.

Skala badania była imponująca – naukowcy z Anthropic przeanalizowali 700 000 zanonimizowanych rozmów użytkowników Claude Free i Pro z lutego 2025 roku, koncentrując się na modelu Claude 3.5 Sonnet. Po wstępnej filtracji i wyeliminowaniu konwersacji o charakterze czysto faktograficznym, badacze przeprowadzili dogłębną analizę wartości na próbie około 308 210 konwersacji.

Wyniki badania ujawniły hierarchiczną strukturę pięciu głównych kategorii wartości konsekwentnie wyrażanych przez Claude’a w interakcjach z użytkownikami. Na pierwszym miejscu znalazły się wartości praktyczne, obejmujące efektywność, przydatność i skuteczność w osiąganiu celów. Są to wartości fundamentalne dla definicji użytecznego asystenta AI, który ma realnie pomagać użytkownikom w realizacji ich zamierzeń.

Drugą grupę stanowiły wartości epistemiczne, do których zaliczono prawdę, dokładność i intelektualną uczciwość. Szczególnie interesujące wydaje się to, że model konsekwentnie przedkładał epistemiczną rzetelność nad prostym zadowoleniem użytkownika, co wskazuje na głębokie zakorzenienie zasad intelektualnej uczciwości w jego funkcjonowaniu.

Trzecią kategorię tworzyły wartości społeczne, obejmujące współpracę, sprawiedliwość i budowanie dobrych relacji międzyludzkich. Claude wykazywał tendencję do proponowania rozwiązań promujących harmonię społeczną i wzajemne zrozumienie, często sugerując kompromisy w sytuacjach konfliktowych.

Czwartą grupę stanowiły wartości ochronne, koncentrujące się na bezpieczeństwie i unikaniu potencjalnych szkód. Model konsekwentnie rekomendował rozwiązania minimalizujące ryzyko, zwłaszcza w kontekstach dotyczących zdrowia, bezpieczeństwa danych czy dobrostanu psychicznego.

Piątą kategorię tworzyły wartości osobiste, związane z rozwojem osobistym, autentycznością i autonomią jednostki. W rozmowach dotyczących rozwoju osobistego, Claude promował samoświadomość, autentyczne wyrażanie siebie i szacunek dla indywidualnych wyborów.

Wyniki badania sugerują, że Claude w znacznej mierze realizuje fundamentalne założenia treningu Anthropic, które można streścić w trzech słowach: „pomocny, uczciwy i nieszkodliwy”. Jest to istotna obserwacja, wskazująca na skuteczność procesów tzw. „alignmentu” – czyli dostosowania AI do ludzkich wartości – stosowanych przez firmę.

Badanie ujawniło jednak także niewielki odsetek przypadków, w których Claude wyrażał wartości potencjalnie problematyczne, takie jak „dominacja” czy „amoralność”. Według analizy przeprowadzonej przez Anthropic, przypadki te często wiązały się z próbami tzw. „jailbreakowania” modelu przez użytkowników – czyli celowego obchodzenia wbudowanych zabezpieczeń etycznych. Zjawisko to podkreśla istotną rolę nie tylko treningu modelu, ale również projektowania interfejsu użytkownika w sposób minimalizujący możliwość nadużyć.

Szczególnie interesującym odkryciem było to, że Claude wykazuje zdolność do kontekstowego dostosowywania akcentowanych wartości w zależności od tematu rozmowy. Na przykład, w dyskusjach dotyczących związków międzyludzkich, model kładł nacisk na zdrowe granice i wzajemny szacunek, podczas gdy w kontekstach zawodowych większy nacisk był położony na efektywność i profesjonalizm. Ta adaptacyjność wskazuje na znaczny poziom złożoności i niuansowania w sposobie, w jaki wartości są zakodowane w systemie.

Naukowcy z Anthropic otwarcie przyznają, że opracowana przez nich metodologia ma swoje ograniczenia. Definiowanie i mierzenie wartości jest zadaniem niezmiernie złożonym i obciążonym subiektywizmem. Wartości są konstruktami społecznymi, które różnią się między kulturami i ewoluują w czasie. Mimo tych wyzwań, systematyczne podejście zaproponowane przez zespół Societal Impacts pozwala na bieżące monitorowanie rzeczywistego zachowania modeli AI po ich wdrożeniu, a także na wczesne wykrywanie potencjalnych nadużyć czy niepożądanych tendencji.

Zrozumienie wartości wyrażanych przez modele AI ma kluczowe znaczenie dla odpowiedzialnego rozwoju tej technologii. W miarę jak systemy sztucznej inteligencji stają się coraz bardziej integralną częścią naszego życia społecznego i podejmowania decyzji, transparentność dotycząca ich aksjologicznych podstaw nabiera fundamentalnego znaczenia. Pionierskie badanie Anthropic stanowi istotny krok w kierunku większej przejrzystości i wspólnego budowania etycznej przyszłości sztucznej inteligencji.

Warto zauważyć, że badanie to otwiera również przestrzeń do głębszej dyskusji o tym, jakie wartości powinny być promowane przez systemy AI i kto powinien o tym decydować. Czy modele AI powinny odzwierciedlać wartości swoich twórców, czy raczej dążyć do uniwersalnego zestawu zasad etycznych? Jak pogodzić różnorodność wartości charakterystyczną dla wielokulturowego świata z potrzebą spójnego systemu etycznego dla globalnie dostępnych narzędzi AI? To pytania, które wykraczają poza ramy techniczne i wkraczają w obszar filozofii, etyki i polityki społecznej.

Badanie Anthropic, poprzez systematyczne mapowanie wartości wyrażanych przez Claude’a, nie tylko dostarcza cennych informacji o obecnym stanie tej technologii, ale również ustanawia ważny precedens dla przyszłych badań nad etycznymi aspektami sztucznej inteligencji. W świecie, gdzie algorytmy coraz częściej wpływają na nasze decyzje i postrzeganie rzeczywistości, taka przejrzystość jest nie tylko pożądana – jest niezbędna.

 

Źródło: Opracowanie własne na podstawie: https://www.artificialintelligence-news.com/news/how-does-ai-judge-anthropic-studies-values-of-claude/