Sztuczna inteligencja coraz częściej pojawia się w narzędziach, z których korzystamy na co dzień. Rozwiązania oparte na SI znalazły również zastosowanie w Kronikach Fallathanu. Jednym z nich jest Harold.
Wiemy jednak, że wykorzystanie SI może budzić pytania, szczególnie w grze, której fundamentem jest twórczość graczy: postacie, opisy, dialogi, fabuła i wspólnie rozwijany świat.
Dlatego chcemy jasno wyjaśnić, jak działa Harold i co korzystanie z niego oznacza dla Waszych treści.
To najważniejsze rozróżnienie.
Kiedy Harold wykonuje określone zadanie, może otrzymać fragment tekstu jako dane wejściowe. Model analizuje otrzymane informacje i na ich podstawie generuje odpowiedź.
Jest to proces nazywany inferencją.
Czym innym jest trenowanie modelu, czyli proces, w którym dane wykorzystywane są do uczenia lub ulepszania sposobu działania samego modelu.
Można to w uproszczeniu porównać do kalkulatora. Wprowadzamy do niego określone dane, aby otrzymać wynik. Nie oznacza to jednak, że kalkulator uczy się przekazanych mu danych i zmienia na ich podstawie sposób swojego działania.
Podobnie jest z Haroldem: analiza tekstu w celu wykonania konkretnego zadania nie oznacza trenowania na tym tekście modelu SI.
Nie.
Harold nie służy do trenowania modeli SI na podstawie twórczości społeczności Kronik Fallathanu.
Do jego działania wykorzystywany jest płatny, komercyjny interfejs API dostawcy technologii, OpenAI. Zgodnie z zasadami obowiązującymi dla tego rozwiązania dane przesyłane za pośrednictwem API nie są wykorzystywane do trenowania ani ulepszania modeli OpenAI. [openai.com], [developers...openai.com]
Oznacza to, że przesłanie opisu postaci, fragmentu dialogu czy innego tekstu do Harolda nie powoduje, że model SI zostaje na nim wytrenowany albo „uczy się” Waszego stylu czy uniwersum Kronik Fallathanu.
Nie należy utożsamiać przekazania tekstu do analizy przez API z przekazaniem go dostawcy jako materiału treningowego.
W przypadku usług biznesowych OpenAI deklaruje, że dane wejściowe i wyjściowe klienta pozostają jego danymi oraz że bez intencjonalnej zgody nie są wykorzystywane do trenowania modeli. [openai.com]
Z perspektywy Harolda oznacza to przede wszystkim, że korzystamy z SI jako narzędzia wykonującego określone zadanie, a nie jako miejsca, do którego przekazujemy twórczość graczy w celu szkolenia kolejnych modeli.
Tutaj warto wyjaśnić jeszcze jedną rzecz.
Brak trenowania na danych nie jest tym samym co brak jakiegokolwiek technicznego przechowywania danych.
OpenAI informuje, że w przypadku standardowego korzystania z API mogą powstawać logi służące monitorowaniu nadużyć. Mogą one zawierać między innymi treść zapytań i odpowiedzi. Domyślny okres ich przechowywania wynosi do 30 dni, z wyjątkami opisanymi przez dostawcę. Niektóre funkcje API mogą również przechowywać stan aplikacji potrzebny do realizacji określonych funkcji. [developers...openai.com]
Dostawca oferuje również rozwiązania ograniczające retencję danych, w tym Modified Abuse Monitoring oraz Zero Data Retention, dla uprawnionych klientów. [developers...openai.com]
Najważniejsze jest jednak rozróżnienie:
Techniczne, czasowe przechowywanie danych nie oznacza wykorzystywania ich do trenowania SI.
Harold nie trenuje modelu na otrzymanych tekstach, dlatego przesłany fragment nie staje się w ten sposób częścią wiedzy modelu SI.
Jednocześnie Harold jako element Gry może korzystać z informacji udostępnionych mu przez samą Grę, jeśli są one potrzebne do realizacji konkretnej funkcji. Należy więc odróżnić kontekst przekazany Haroldowi przez system Gry od wiedzy zapisanej poprzez trening w samym modelu SI.
Jeżeli model otrzymuje tekst jako kontekst potrzebny do wykonania zadania, nie oznacza to, że tekst zostaje przez niego „zapamiętany” poprzez trenowanie.
Harold ma być przede wszystkim narzędziem wspierającym Grę.
SI może pomagać przy realizacji konkretnych funkcji, ale nie jest sposobem na pozyskiwanie twórczości społeczności ani budowanie na jej podstawie własnego modelu językowego.
Kroniki Fallathanu powstają dzięki graczom, ich postaciom, historiom i pomysłom. Sztuczna inteligencja ma wspierać działanie Gry, a nie zastępować ludzką twórczość.
Czy Harold wykorzystuje SI?
Tak. Korzysta z komercyjnego interfejsu API.
Czy Harold może przetwarzać tekst?
Tak, jeśli jest to potrzebne do wykonania danej funkcji.
Czy przetwarzanie tekstu oznacza trenowanie modelu?
Nie. Są to dwa różne procesy.
Czy OpenAI wykorzystuje dane przesłane przez API do trenowania swoich modeli?
Domyślnie nie. Dokumentacja API wskazuje, że dane nie są wykorzystywane do trenowania ani ulepszania modeli, chyba że klient świadomie zdecyduje się je w tym celu udostępnić. [developers...openai.com]
Czy brak trenowania oznacza, że dane nigdy nie są przechowywane?
Nie. Standardowe API może przechowywać określone dane w ramach mechanizmów bezpieczeństwa i monitorowania nadużyć, domyślnie do 30 dni, a niektóre funkcje mogą przechowywać stan aplikacji. [developers...openai.com]
Czy Harold jest trenowany na twórczości społeczności Kronik Fallathanu?
Nie. Harold korzysta z modelu jako narzędzia do wykonywania określonych zadań.
Wprowadzenie Harolda nie zmienia podstawowej filozofii Kronik Fallathanu.
SI ma być narzędziem technicznym wspierającym Grę, a nie beneficjentem twórczości jej społeczności.
Przekazanie tekstu do analizy nie oznacza wykorzystania go do trenowania modelu. Wasze postacie, historie, dialogi i pomysły nie służą nam do budowania ani dotrenowywania modeli SI.
Szczegółowe zasady dotyczące treści tworzonych przez użytkowników oraz związanych z nimi praw określa Regulamin Gry oraz Polityka Prywatności.