Zdvořilost vůči AI přináší lepší výsledky, ukazuje výzkum. Lidé mění řeč podle umělé inteligence
Když budete komunikovat s umělou inteligencí zdvořile, dosáhneme lepších výsledků, ukázal průzkum. Máme umělé inteligenci tykat, vykat, nebo prosit? Nad těmito otázkami se zamyslel Vít Gvoždiak z Filosofického ústavu Akademie věd.
Lidé a umělá inteligence se vzájemně ovlivňují.
"Dlouhou dobu jsme jazykové modely učili náš jazyk. V současné chvíli ale můžeme říct, že ovlivňování je vzájemné, dokonce i lidé se začínají přizpůsobovat jazykovému chování velkých jazykových modelů. Jedna z těch typických vlastností je určitá podoba podlézavosti. Na druhou stranu u lidí můžeme sledovat nejasnost v tom, jakým způsobem s umělou inteligencí mluvit. Máme jí tykat? Máme ji vykat? Máme ji žádat? Máme ji prosit? Řada empirických výzkumů v současné době ukazuje například to, že pokud se vyjadřujeme slušně a zdvořile, tak můžeme dosáhnout lepších výsledků, než když se vyjadřujeme takříkajíc nezdvořile."
Lidé už odkazují na výsledky velkých jazykových modelů v běžné řeči.
"Říkáme. to mi řekla umělá inteligence nebo zeptal jsem se ChatGPT, a ten mi řekl to a ono. Podle výzkumu Max Planck Institutu v roce 2023 tvořil výzkumný materiál asi 3000 videí na YouTube. Lidé začali přizpůsobovat své výpovědi tomu, jak vypadají výstupy velkých jazykových modelů, lidé začínají tak trošku papouškovat to, co produkují velké jazykové modely a vzájemně se přizpůsobují."
Umělá inteligence někdy budí dojem živého člověka
I když lidé vědí, že komunikují s neuronovými sítěmi, často se chovají, jako by byl na druhé straně živý člověk. Je pro lidi AI komunikační partner nebo jen nástroj?
"Očekáváme, že ten druhý bude kooperativní, bude mluvit pravdu, bude říkat jenom dostatečné množství informací. Pokud tak nečiní, tak buď s námi nekomunikuje, anebo se nám snaží sdělit nějaký nepřímý význam. Velké jazykové modely vzhledem ke své technologické povaze a toho, jak jsou trénovány, tak nejsou optimalizovány na to, aby produkovaly pravdivé výpovědi, ale jsou optimalizovány spíše z hlediska pravděpodobnosti následného znaku nebo toho tzv. tokenu. To znamená, že už tyto předpoklady, se kterými ten uživatel přichází, tak by si měl uvědomovat právě to, že pravdivost nemusí být úplně nutným předpokladem, ale je to spíše pravděpodobnost."
Jak dodává Vít Gvoždiak z Akademie věd, umělá inteligence může vytvářet dojem, že funguje jako komunikační partner, odpovídá na naše otázky.
"Jiný režim představuje například situace, kdy umělou inteligenci používáme v komunikaci s ostatními lidmi. Chci někomu napsat typ e-mailu, požádám umělou inteligenci, aby ho napsala místo mě, anebo mám k dispozici nějaký dlouhý text, a chci udělat nějaké resumé. V tomto případě o umělé inteligenci můžeme uvažovat spíše na úrovni instrumentu, nějakého nástroje. A ještě jiný žánr může představovat například situace, kdy nějaký velký jazykový model mluví jako zástupce této instituce, jako jsou typicky chatovací agenti například v bankách."
