Counter-strike, kultura, bias, AI

Kántr. Celým jménem Counter-strike. Moje oblíbená hra na gymplu. Pořádali jsme LAN párty. Přijeli jsme ke kamarádovi do bytu. Propojili počítače (ne notebooky… počítače… krabice…). Hráli jsme kántra.

Jedna strana v kántrovi jsou teroristé a druhá policajti. Zlí a dobří. Už jen ten název říká, kdo je kdo. Mohli se jmenovat „bojovníci za svobodu" a „imperiální utlačovatelé". Ale byli to teráči a kántři. Teroristé byli různobarevné pleti. Policajti a rukojmí byli bílí jak sníh. Určitě to byla jen náhoda.

Počítačové hry formují lidem představy o světě. Chcete někoho naučit, jak vypadá dobro a zlo? Za co dostane body? Vytvořte populární hru.

Když se řekne FBI, tak mi automaticky naskočí, že to jsou „ti hodní". Protože amíci jsou ti hodní. A samozřejmě bílí jsou ti hodní. Je to bias, se kterým se dívám na svět.

Což nás přivádí k AI. Když píšu AI, myslím tím celý obor. AI není ChatGPT.

AI formuje náš pohled na svět. Zároveň je plné nešvarů a biasů. Už se to děje. Pojďme některé biasy pojmenovat. Abyste si uvědomili, do čeho se naše a ty příští generace pouští.

1️⃣ Příběh je důležitější než pravda. AI modely jsou optimalizované pro generování koherentních příběhů. Ty v naší hlavě působí pravdivě. Zároveň AI nemá žádný koncept pravdy. Vygeneruje cokoliv, aby vytvořilo provázaný příběh. Vytvoří si zdroje. Podklady. Alternativní fakta. Musíte s tím počítat.

2️⃣ Americké hodnoty jsou důležitější než čínské. Nebo naopak. Podle toho které AI si zvolíte. Já vím, amíci jsou ti hodní. Proto se jejich koncentráky nejmenují koncentráky. Ty čínské samozřejmě taky ne. AI s potenciálně evropskými hodnotami je Mistral, akorát ten je v těžkém technologickém záklonu oproti USA / Číně. Musíte s tím počítat.

3️⃣ Trh je důležitější než společnost. Tréninková data upřednostňují tržní přínosy před blahem společnosti. Já vím, lidi si umí představit spíš atomovou válku než konec kapitalismu. Zároveň je tohle bias, se kterým chcete dělat rozhodnutí na úrovni veřejné správy? Ayn Rand jako poradce každého úředníka! Musíte s tím počítat.

AI postupně mění všechny aspekty naší práce v House of Řezáč. Zároveň to znamená, že potřebujeme rozumět tomu, s čím vlastně pracujeme. V oboru AI není všechno růžové, zalité sluncem a orámované jednorožci. Bez ohledu na aktuální hype.

„Feature parity is just another way to say »we don’t need to exist«.“
– Jason Fried

Čtení na víkend

What Is Man, That Thou Art Mindful Of Him?

Analogie pro AI z pohledu křesťanského boha. Formou komentovaných SMS zpráv.