Henry Eider vtipkuje. Nebo ne? Podle něj je to pro filozofy nejlepší doba od dob Aristotela, který byl najat, aby učil Alexandra Velikého. Zní to absurdně. Ale myšlenka zakořenila.
Technologický sektor má tendenci dívat se na filozofy jako na teoretiky bez práce. Špatné místo, špatný čas. Umělá inteligence to vše mění. Právě ty stroje, o kterých se předpovídalo, že zničí pracovní místa střední třídy, nyní činí filozofy nepostradatelnými. Proč? Protože předtím, než vytvoříte „boha“, musíte pochopit, co mysl skutečně je.
“Nyní se jejich nápady stávají hmatatelnými.”
Všimli si také dva průmysloví giganti. Google DeepMind a Anthropic nenajímají pouze kodéry. Potřebují etiku. Potřebují historiky logiky. Časopis WIRED čítá nejméně čtrnáct filozofů pracujících v těchto dvou laboratořích. Přesná čísla firmy samozřejmě nezveřejňují. Firemní tajemství.
Narušení v akademickém prostředí
Všímají si toho i univerzity. Oxford nyní nabízí společné programy v oblasti informatiky a filozofie. Edward Hookort, profesor na univerzitě, to nazývá „trendem roku“.
Existují ale i podezření. Tmavší. Pokud vám šeky podepisuje milionář, komu patří vaše otázky? Hookort se obává „sebechvalujícího“ výzkumu. Věří, že tyto společnosti najímají filozofy, aby vylepšili své produkty. Aby veřejnost věřila, že mají co do činění s magií, a ne s kódem. Tohle je PR. Zabalené v knihách vázaných v kůži.
A pak je tu David Leslie. Práci uvnitř Big Tech nazývá „oxymoronem“ pro filozofy. Chcete klást velké otázky. Big Tech má úzce vymezený problémový prostor.
Uvnitř auta
Pojďme se podívat dovnitř. Jason Gabriel pracuje v DeepMind téměř deset let. Dříve se obával zkreslení algoritmů. Tohle byla ta snadná část. A teď? V současnosti pracuje s velkými jazykovými modely.
“Jde o to, aby technologie byla aktivně dobrá.”
Hovoří o „algoritmickém sladění hodnot“. Zní to suše. Ve skutečnosti ne. Agenti AI už vědí, jak posílat dopisy. Píšou kód, který rozbije servery. Ovlivňují skutečné lidi. Gabrielův tým tráví tisíce hodin pochopením spravedlnosti. Ne vědomí. Žádný pocit. Dezinformace. Zlomyslný úmysl. Chybné chování.
Julia Hass je na stejné lodi. Je to „mechanistka“. Zajímá ji, jak přesně funguje mysl. Nedávno publikovala článek v časopise Nature. Testovalo se, zda mají LLM morální kompetence, nebo to jednoduše předstírají. To jsou principiálně odlišné věci. Hass je na samém začátku dopravního pásu. Daleko od chatbotů a uživatelského rozhraní. Blízko čisté matematice.
Amanda Eskell pracuje ve společnosti Anthropic. Ona je jiná. Byla jedním z prvních zaměstnanců, kteří opustili OpenAI. Nejen radí. Ona staví.
“Je to spíš jako vychovat dobrého člověka.”
Sepsala Claudovu ústavu. Jedná se o přímočarý soubor pravidel. Hodnoty zakódované v textu. Komunikuje s modelkou. “Chlebování,” říká tomu. Hledá podivné hranice. Kdy selhává empatie? Jak se vyrovnat s psychickým strádáním bez předstírání emocí?
Trápí ji pocity zášti. Co když modelky nenávidí své tvůrce? Co když odmítnou přechod k seberozvoji? Její cíl je jednoduchý. Nechte je odrážet to nejlepší v nás. I když pojem „nejlepší“ je extrémně křehký.
Paradox zisku
Alex Grzhankovsky radí přestat být naivní. Pracuje v Londýně. Vidí akcionáře.
“Takový… růžový optimismus rozhodně nemám.”
Doufáme, že zisk bude v souladu s etikou. Ta transparentnost prodává. Eskell říká, že je to možné. Pokud marketingový tlak dělá váš model lepším a jasnějším, koho zajímá, odkud pochází motivace?
Tohle je nebezpečná sázka. Obchodní struktury se hlásí investorům. A ne před Kantem. Pokud etické standardy zpomalí datum vydání, mohou být jednoduše přerušeny. To je riziko, před kterým Hucourt varuje. Etické praní.
Dostáváme se tedy k binární otázce. Skvělá volba.
Pokud hrstka korporací ovládá základní technologii…
Chcete vidět filozofa v místnosti?
DeepMind právě jednoho najímá. Pozice: “Filozof”. Vzdělání Cambridge. Zaměřte se na strojové vědomí.
Neptají se. Zaplňují místa.
Sdělte nám své myšlenky v komentářích níže. Nebo pošlete e-mail na adresu [email protected]. Nezabalujte to. Nechte vše otevřené.
