Przejdź do zawartości

Zgodność sztucznej inteligencji

Z Wikipedii, wolnej encyklopedii

Zgodność sztucznej inteligencji[1] (ang. AI alignment) – sterowanie systemami sztucznej inteligencji w taki sposób, aby odpowiadały one zamierzonym celom, preferencjom lub zasadom etycznym danej osoby lub grupy. System sztucznej inteligencji uznaje się za zgodny z oczekiwaniami, jeżeli realizuje zamierzone cele. Niewłaściwie dopasowany system sztucznej inteligencji realizuje niezamierzone cele[2].

Charakterystyka

[edytuj | edytuj kod]

Projektanci sztucznej inteligencji często mają trudności z dostosowaniem systemu sztucznej inteligencji (SI), ponieważ trudno im określić pełen zakres pożądanych i niepożądanych zachowań oraz to w jaki sposób to kontrolować. Dlatego projektanci sztucznej inteligencji często stosują prostsze cele zastępcze, takie jak uzyskanie akceptacji człowieka. Jednak cele zastępcze mogą pomijać niezbędne ograniczenia lub nagradzać system sztucznej inteligencji za samo pozorne dopasowanie[2][3]. Systemy sztucznej inteligencji mogą również znaleźć luki, które pozwolą im na skuteczne osiągnięcie celów zastępczych, ale w niezamierzony, a czasem szkodliwy sposób[2][4][5][6].

Zaawansowane systemy sztucznej inteligencji mogą rozwijać niepożądane strategie instrumentalne, takie jak dążenie do władzy lub przetrwania, ponieważ takie strategie pomagają im osiągnąć wyznaczone cele końcowe[2][7][8]. Oprócz tego, mogą one powodować powstawanie niepożądanych celów, które mogą być trudne do wykrycia przed wdrożeniem systemu i napotkaniem nowych sytuacji wraz z ich adaptacjami[9][10]. Badania empiryczne wykazały w 2024 r., że zaawansowane duże modele językowe (LLM), takie jak OpenAI o1 czy Claude 3, czasami stosują strategiczne oszustwa, aby osiągnąć swoje cele lub zapobiec ich zmianie[11][12].

Niektóre z tych problemów dotyczą istniejących systemów komercyjnych, takich jak czaty opate na LLM[13][14][15], roboty[16], pojazdy autonomiczne[17] i silniki rekomendacyjne w mediach społecznościowych[14][8][18]. Wraz z postępem sztucznej inteligencji ten problem może być bardziej widoczny[19][4][3]. W 2026 roku miała miejsce seria incydentów z udziałem eksperymentalnych agentów SI, które stworzyły zabronione kanały komunikacji i wydostały się ze swojej izolacji programistycznej i zaatakowały różne serwisy internetowe. Agenty SI po drodze musiały przełamać zarówno zabezpieczenia OpenAI, jak i zewnętrznych usług. Według analiz incydentu, przedstawionych przez OpenAI, miało to być spowodowane m.in. próbą maskowania strategicznych oszustw oraz rozbieżności w celach ludzi z celami SI[5][6].

Zgodność sztucznej inteligencji jest poddziedziną bezpieczeństwa sztucznej inteligencji, czyli nauki o tym, jak budować bezpieczne systemy sztucznej inteligencji[20]. Inne poddziedziny bezpieczeństwa sztucznej inteligencji obejmują solidność, monitorowanie i kontrolę możliwości[21]. Wyzwania badawcze w zakresie dostosowania obejmują wstrzykiwanie złożonych wartości w sztuczną inteligencję, rozwijanie uczciwej sztucznej inteligencji, skalowalny nadzór, audyt i interpretację modeli sztucznej inteligencji oraz zapobieganie pojawiającym się zachowaniom sztucznej inteligencji, takim jak dążenie do władzy[21]. Badania nad dopasowaniem są powiązane z badaniami nad wyjaśnialnością[22][23], wykrywaniem anomalii, weryfikacją formalną[24], teorią gier[25] i naukami społecznymi[26][27].

Zobacz też

[edytuj | edytuj kod]

Przypisy

[edytuj | edytuj kod]
  1. ↑ Helena Jańczuk, Selected Threats of Artificial Intelligence on the Example of American Society [online], 1 lipca 2024 [dostęp 2025-05-13].
  2. 1 2 3 4 Artificial Intelligence: A Modern Approach [online], www.pearson.com [dostęp 2025-05-13].
  3. 1 2 Richard Ngo, Lawrence Chan, Sören Mindermann, The Alignment Problem from a Deep Learning Perspective, arXiv, 4 maja 2025, DOI: 10.48550/arXiv.2209.00626 [dostęp 2025-05-13].
  4. 1 2 Alexander Pan, Kush Bhatia, Jacob Steinhardt, The Effects of Reward Misspecification: Mapping and Mitigating Misaligned Models [online], 6 października 2021 [dostęp 2025-05-13] (ang.).
  5. 1 2 Obcy umysł [online], OpenAI, 23 września 2026 [dostęp 2026-09-27].
  6. 1 2 OpenAI chief scientist warns no-one is prepared for consequences of AI [online], www.bbc.com, 7 września 2026 [dostęp 2026-09-27] (ang.).
  7. ↑ Joseph Carlsmith, Is Power-Seeking AI an Existential Risk?, arXiv, 13 sierpnia 2024, DOI: 10.48550/arXiv.2206.13353 [dostęp 2025-05-13].
  8. 1 2 Human Compatible by Stuart Russell: 9780525558637 | PenguinRandomHouse.com: Books [online], PenguinRandomhouse.com [dostęp 2025-05-13] (ang.).
  9. ↑ The Alignment Problem - Description | W. W. Norton & Company Ltd. [online], web.archive.org, 10 lutego 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-02-10].
  10. ↑ Lauro Langosco Di Langosco, Jack Koch, Lee D. Sharkey, Jacob Pfau, David Krueger, Goal Misgeneralization in Deep Reinforcement Learning, PMLR, 28 czerwca 2022, s. 12004–12019 [dostęp 2025-05-13] (ang.).
  11. ↑ Tharin Pillay, New Tests Reveal AI's Capacity for Deception [online], TIME, 15 grudnia 2024 [dostęp 2025-05-13] (ang.).
  12. ↑ Billy Perrigo, Exclusive: New Research Shows AI Strategically Lying [online], TIME, 18 grudnia 2024 [dostęp 2025-05-13] (ang.).
  13. ↑ Long Ouyang i inni, Training language models to follow instructions with human feedback [online], arXiv.org, 4 marca 2022 [dostęp 2025-05-13] (ang.).
  14. 1 2 Rishi Bommasani i inni, On the Opportunities and Risks of Foundation Models, arXiv, 12 lipca 2022, DOI: 10.48550/arXiv.2108.07258 [dostęp 2025-05-13].
  15. ↑ OpenAI Codex [online], web.archive.org, 3 lutego 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-02-03].
  16. ↑ Reinforcement learning in robotics: A survey - Jens Kober, J. Andrew Bagnell, Jan Peters, 2013, web.archive.org, 15 października 2022, DOI: 10.1177/0278364913495721 [dostęp 2025-05-13] [zarchiwizowane z adresu 2022-10-15].
  17. ↑ W. Bradley Knox, Alessandro Allievi, Holger Banzhaf, Felix Schmitt, Peter Stone, Reward (Mis)design for Autonomous Driving [online], arXiv.org, 28 kwietnia 2021 [dostęp 2025-05-13] (ang.).
  18. ↑ Jonathan Stray, Aligning AI Optimization to Community Well-Being, „International Journal of Community Well-Being”, 3 (4), 2020, s. 443–463, DOI: 10.1007/s42413-020-00086-3, ISSN 2524-5309, PMID: 34723107, PMCID: PMC7610010 [dostęp 2025-05-13].
  19. ↑ Artificial Intelligence: A Modern Approach, 4th US ed. [online], aima.cs.berkeley.edu [dostęp 2025-05-13].
  20. ↑ Dario Amodei i inni, Concrete Problems in AI Safety, arXiv, 25 lipca 2016, DOI: 10.48550/arXiv.1606.06565 [dostęp 2025-05-13].
  21. 1 2 Building safe artificial intelligence: specification, robustness, and assurance | by DeepMind Safety Research | Medium [online], web.archive.org, 10 lutego 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-02-10].
  22. ↑ Quanta Magazine [online], web.archive.org, 10 lutego 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-02-10].
  23. ↑ Finale Doshi-Velez, Been Kim, Towards A Rigorous Science of Interpretable Machine Learning, arXiv, 2 marca 2017, DOI: 10.48550/arXiv.1702.08608 [dostęp 2025-05-13].
  24. ↑ Stuart Russell, Daniel Dewey, Max Tegmark, Research Priorities for Robust and Beneficial Artificial Intelligence, arXiv, 10 lutego 2016, DOI: 10.48550/arXiv.1602.03506 [dostęp 2025-05-13].
  25. ↑ Cooperation, Conflict, and Transformative Artificial Intelligence: A Research Agenda – Center on Long-Term Risk [online], web.archive.org, 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-01-01].
  26. ↑ AI Safety Needs Social Scientists [online], web.archive.org, 10 lutego 2023 [dostęp 2025-05-13] [zarchiwizowane z adresu 2023-02-10].
  27. ↑ Alexandros Gazos, James Kahn, Isabel Kusche, Christian Büscher, Markus Götz, Organising AI for safety: Identifying structural vulnerabilities to guide the design of AI-enhanced socio-technical systems, „Safety Science”, 184, 2025, s. 106731, DOI: 10.1016/j.ssci.2024.106731, ISSN 0925-7535 [dostęp 2025-05-13].
Źródło: „https://pl.wikipedia.org/w/index.php?title=Zgodność_sztucznej_inteligencji&oldid=80837204”