OpenAI wzmacnia transparentność AI: Nowe standardy i technologie w walce z dezinformacją
OpenAI dołącza do Komitetu Sterującego Koalicji ds. Pochodzenia i Autentyczności Treści (C2PA) i integruje metadane otwartego standardu do swoich modeli AI generujących treści, aby zwiększyć transparentność tworzonych treści. Standard C2PA pozwala na certyfikowanie cyfrowych treści metadanymi potwierdzającymi ich pochodzenie, niezależnie od tego, czy zostały stworzone całkowicie przez AI, edytowane przy użyciu narzędzi AI, czy uzyskane tradycyjnie. OpenAI już zaczęło dodawać metadane C2PA do obrazów z najnowszego modelu DALL-E 3 wykorzystywanego w ChatGPT oraz API OpenAI. Metadane zostaną również zintegrowane z nadchodzącym modelem generowania wideo Sora, kiedy zostanie szerzej wprowadzony.
Decyzja ta pojawia się w kontekście rosnących obaw dotyczących potencjału treści generowanych przez AI do wprowadzania w błąd wyborców przed ważnymi wyborami w USA, Wielkiej Brytanii i innych krajach w tym roku. Uwierzytelnianie mediów stworzonych przez AI może pomóc zwalczać deepfake’i i inne manipulowane treści mające na celu kampanie dezinformacyjne.
Chociaż techniczne środki pomagają, OpenAI przyznaje, że umożliwienie autentyczności treści w praktyce wymaga wspólnych działań platform, twórców i osób zajmujących się treściami, aby zachować metadane dla końcowych konsumentów.