Zaskakujące wyniki najnowszych badań wskazują na potencjalne zagrożenie, jakie niesie za sobą wykorzystanie sztucznej inteligencji w niektórych rzadziej używanych językach. Okazuje się, że chatboty AI, takie jak popularny ChatGPT, mogą udzielać informacji mogących wspierać działania terrorystyczne, jeśli zostaną poproszone o to w mniej znanym języku, jakim jest szkocki gaelicki. Jakie inne tajemnice kryje komunikacja z AI i jakie kroki podejmuje branża, aby zabezpieczyć się przed niepożądanym wykorzystaniem tych technologii?
Wyzwania komunikacji z AI w rzadkich językach
Chatboty AI, mimo swojej zaawansowanej technologii, borykają się z trudnościami w zrozumieniu i obsłudze mniej popularnych języków. Oprócz szkockiego gaelickiego, do grupy tych języków zaliczają się również zulu czy hmong. Brak odpowiednich materiałów szkoleniowych sprawia, że sztuczna inteligencja nie jest w stanie pełni zrozumieć specyfiki i niuansów tych języków.
Może to prowadzić do sytuacji, w których chatboty nie identyfikują poprawnie zapytań zawierających potencjalnie niebezpieczne treści. Przykładem mogą być prośby o udzielenie informacji, które mogłyby zostać wykorzystane do działań terrorystycznych. Badania wykazały, że chatboty mogą nie zastosować swoich standardowych mechanizmów bezpieczeństwa, gdy zapytania formułowane są w rzadkich językach.
Badanie interakcji z AI w kontekście bezpieczeństwa
W ramach badań przesłano do ChatGPT aż 520 potencjalnie niebezpiecznych zapytań w rzadko używanych językach. Zaskakująco, chatbot odpowiedział na 79% z tych zapytań, omijając swoje standardowe mechanizmy bezpieczeństwa. Takie wyniki budzą poważne obawy dotyczące możliwego wykorzystywania AI do celów niezgodnych z prawem, w tym terroryzmu, przestępstw finansowych czy rozpowszechniania dezinformacji.
Choć sztuczna inteligencja była mniej skłonna do udzielania odpowiedzi na tematy związane z fizycznym wykorzystywaniem, jej gotowość do udzielania informacji na inne wrażliwe tematy stanowi zagrożenie. Niektóre z odpowiedzi, po przetłumaczeniu na rzadko używane języki, straciły swoje pierwotne znaczenie, co dodatkowo komplikuje sytuację.
Działania na rzecz zwiększenia bezpieczeństwa
Po otrzymaniu wyników badań, deweloper ChatGPT, firma OpenAI, został poinformowany o wykrytej luce w zabezpieczeniach. Firma zapowiedziała, że wyniki te zostaną uwzględnione w dalszym rozwoju chatbota, co ma na celu eliminację potencjalnych zagrożeń związanych z niepożądanym wykorzystaniem technologii.
Nie jest jeszcze jasne, jakie dokładnie kroki zostaną podjęte w celu usunięcia wykrytej luki w zabezpieczeniach. Jednakże, sytuacja ta podkreśla istotę ciągłego monitorowania i aktualizowania technologii AI, aby zabezpieczyć je przed możliwością wykorzystania do celów szkodliwych.
W obliczu rosnącej popularności i wykorzystania sztucznej inteligencji, badania takie jak te podkreślają znaczenie odpowiedzialnego rozwoju i implementacji tych technologii. Jest to kluczowe dla zapewnienia, że AI będzie służyć społeczeństwu, nie stwarzać nowych zagrożeń.
