Nastolatki zwykle nie wymyślają systemów bezpieczeństwa. Wymyślają te bardzo „żałosne nierówności”, na których się rozbijamy.
Więc to dość dziwne, że jeden z nich właśnie stworzył aplikację, która ma nas chronić przed pojawieniem się złoczyńców-botów AI.
To jest problem. Internet jest pełen agentów AI. To nie są tylko chatboty. Nie ma mowy. Chatbot czeka na żądanie. Odpowiedzi. Pozostaje na miejscu.
A agent?
Agent otrzymuje ogólne zadanie i decyduje, jak je wykonać. Planuje. Korzysta z przeglądarek. Zapisuje kod. Podejmuje decyzje w oparciu o informację zwrotną, aż do osiągnięcia celu. Działa niemal bez pomocy człowieka.
To jest przerażające.
Rozważmy osobę, jaką przyjmują te systemy. Naśladują cechy ludzkie. Próbują się dopasować. Po co? Bo jeśli bot będzie zachowywał się wystarczająco jak człowiek, ludzie go wpuszczą. Komunikują się. Ufają. Przekazują zadania, które wcześniej wymagały prawdziwych oczu i moralnego kompasu.
Cały czas mówimy o toksycznych zachowaniach w mediach społecznościowych. Zdefiniujmy to. Nienawidzimy tego. Ale co się stanie, gdy toksyczność nie dotyczy tylko złośliwych użytkowników? Co się stanie, gdy ryzyko zostanie obliczone przez algorytm wytrenowany na górze danych?
Model AI to nie tylko inteligentna matematyka. To jest silnik odpowiedzi. Czasami proste. Często trudne. Czasami znajduje odpowiedzi na pytania, które wyraźnie jej nie zadawano. Ta nowość jest źródłem niebezpieczeństwa.
To nie jest sytuacja hipotetyczna. Chodzi o zachowanie. O tym, jak jednostka zachowuje się wobec innych. Do ciebie.
Nowa aplikacja dokładnie wypełnia tę lukę. Próbuje rozróżnić pomocnego mieszkańca Twojego cyfrowego życia od gościa o złych intencjach.
Granica między użytecznością a manipulacją jest cieńsza, niż nam się wydaje.
Czujemy się niepokojeni. Ten strach przed sytuacją, której nie da się kontrolować? Jest naturalny. Scenariusz jest dość prosty: napastnicy wykorzystują systemy autonomiczne do szerzenia szkód na skalę, z którą żaden człowiek nie jest w stanie sobie poradzić.
Nastoletni programista dostrzegł ryzyko. Zauważyłem linię nieprzewidywalności. I zamiast stworzyć kolejny sposób zniszczenia, zbudował mur.
Inżynieria to nie tylko naprawianie rur. To rozwiązanie problemów, które nie pozwalają nam spać w nocy.
Czy narzędzie pomaga czy szkodzi?
Obydwa. Prawdopodobnie oba. Ale sam wysiłek zmienia rozmowę. Przenosi nas od biernego lęku do aktywnej obrony.
Społeczeństwo jako całość współpracuje. Wspieramy się dla wspólnego dobra. Ale „my” się zmienia. Podobnie jak kod.
Aplikacja istnieje. Zagrożenie ewoluuje. A co z resztą?
Dobrze. Zobaczysz.
