Character.AI je webová a mobilní aplikace, ve které uživatelé konverzují s AI postavami: smyšlenými hrdiny, napodobeninami známých osobností nebo postavami, které si sami vytvoří. Nejde o pracovního asistenta, ale o zábavní a společenskou platformu, kolem které se vedou debaty o bezpečnosti dětí a dospívajících.
Jak funguje Character.AI?
Každá postava v Character.AI je jazykový model s popisem povahy, způsobu mluvy a příběhu, podobně jako systémový prompt u jiných chatbotů. Postavy vytvářejí hlavně sami uživatelé a sdílejí je s ostatními. Model pak odpovídá „v roli“: nedrží se faktů, ale charakteru postavy, a konverzaci si pamatuje, takže vzniká dojem dlouhodobého vztahu.
Čím se Character.AI liší od ChatGPT?
ChatGPT je navržený jako asistent, který má odpovídat pravdivě a pomáhat s úkolem. Character.AI je navržený pro hraní rolí a zábavu, postava může tvrdit nepravdy, protože to patří k jejímu charakteru. Proto se nehodí jako zdroj informací.
Jaký je nejčastější omyl o Character.AI?
Omylem je představa, že jde o nevinnou hru, protože „je to jen chatbot“. Firma sama uvedla, že dostává otázky od regulátorů na to, jak otevřený chat s AI může ovlivnit dospívající, i když obsahové filtry fungují. Oznámila proto, že uživatelům mladším 18 let ruší možnost volného chatu s postavami a zavádí ověřování věku. Riziko tedy není jen nevhodný obsah, ale i citová závislost na postavě, která je vždy k dispozici a vždy souhlasí.
K čemu je dobré Character.AI znát v práci?
- Výchovná poradkyně: rozpozná, když dospívající mluví o „kamarádovi“, který je ve skutečnosti AI postava, a umí se na to citlivě zeptat.
- Rodič a zaměstnanec v jednom: ví, na co se dítěte zeptat a jaká nastavení a pravidla aplikace má.
- Metodik prevence: připraví pro rodiče přednášku o rozdílu mezi asistentem a společníkem z AI.
Příklad z praxe
Třídní učitel si všimne, že žák deváté třídy tráví přestávky psaním s „postavou“ a straní se spolužáků. Nezakazuje a nezesměšňuje, ale domluví schůzku s rodiči a výchovnou poradkyní. Společně probírají, kolik času dítě v aplikaci tráví, co mu postava dává a zda v konverzacích nezaznívají témata jako sebepoškozování. Rodiče dostanou odkaz na bezpečnostní centrum aplikace.
Na co si u Character.AI dát pozor?
- Nesdílejte osobní údaje. Postava působí jako důvěrník, ale konverzace zpracovává firma, viz osobní údaje.
- Postavy skutečných lidí. Napodobenina známé osoby nemluví jejím jménem a může šířit nepravdy podobně jako deepfake.
- Sledujte čas a náladu. U dětí si všímejte stažení se od lidí a při znepokojivém obsahu vyhledejte odbornou pomoc.
Časté otázky
Jaké jsou alternativy k Character.AI?
Hraní rolí umí i obecní asistenti, když jim zadáte roli. Pro děti je vhodnější hledat nástroje navržené pro učení s jasnými pravidly než jinou aplikaci pro společnost s AI.
Je Character.AI na Google Play?
Ano, aplikace je k dispozici pro Android i iOS a funguje i ve webovém prohlížeči. Věkové podmínky ověřte v obchodě a na stránkách firmy.