Teenageři obvykle bezpečnostní systémy nevymýšlejí. Vymýšlejí ty velmi „smutné hrboly“, na které narážíme.
Je tedy docela zvláštní, že jeden z nich právě vytvořil aplikaci, která nás má chránit před vzestupem AI bot darebáků.
To je ten problém. Internet je plný Agentů AI. Nejsou to jen chatboti. V žádném případě. Chatbot čeká na žádost. Odpovědi. Zůstává na místě.
A agent?
Agent obdrží obecný úkol a rozhodne se, jak jej splnit. Plánuje. Používá prohlížeče. Píše kód. Rozhoduje se na základě zpětné vazby, dokud není dosaženo cíle. Funguje téměř bez lidské pomoci.
*Je to děsivé.
Uvažujme osobu, kterou tyto systémy předpokládají. Napodobují lidské vlastnosti. Snaží se zapadnout. K čemu? Protože pokud se bot chová dostatečně jako člověk, lidé to dovnitř pustí. Komunikují. Důvěřují. Předávají úkoly, které dříve vyžadovaly skutečné oči a morální kompas.
Neustále mluvíme o toxickém chování na sociálních sítích. Pojďme to definovat. Nesnášíme to. Co se ale stane, když toxicita není jen zlomyslnými uživateli? Co se stane, když se riziko vypočítá pomocí algoritmu trénovaného na horách dat?
Model AI není jen chytrá matematika. Toto je motor odpovědí. Někdy jednoduché. Často obtížné. Někdy najde odpovědi na otázky, které jí zjevně nebyly položeny. Tato novost je zdrojem nebezpečí.
Toto není hypotetická situace. Je to o chování. O tom, jak se entita chová k ostatním. Vám.
Nová aplikace řeší právě tuto mezeru. Pokouší se rozlišit mezi užitečným obyvatelem vašeho digitálního života a návštěvníkem se zlými úmysly.
Hranice mezi užitečností a manipulací je tenčí, než si myslíme.
Cítíme úzkost. Tento strach ze situace, kterou nelze ovládat? Je přirozený. Scénář je docela jednoduchý: útočníci používají autonomní systémy k šíření škod v rozsahu, který žádný člověk nezvládne.
Teen vývojář viděl riziko. Všiml jsem si čáry nepředvídatelnosti. A místo toho, aby vytvořil jiný způsob ničení, postavil zeď.
Inženýrství není jen o upevňování potrubí. To je řešení problémů, které nás drží v noci vzhůru.
Pomáhá nástroj nebo škodí?
Obojí. Pravděpodobně obojí. Ale samotné úsilí mění rozhovor. Posouvá nás od pasivní úzkosti k aktivní obraně.
Spolupracuje společnost jako celek. Vzájemně se podporujeme pro společné dobro. Ale „my“ se mění. Stejně jako kód.
Aplikace existuje. Hrozba se vyvíjí. A co zbytek?
Dobře. uvidíš.
