Chatbot Google Gemini si vymýšľa falošné recenzie, tvrdí Hasson

Bratislava 29. februára 2024 (HSP / Fox News /Foto: TASR/AP-Jeff Chiu, FILE)

Politický redaktor Peter J. Hasson prišiel na to, že nástroj AI Google Gemini si vymyslel a uverejnil falošné recenzie jeho knihy o politických predsudkoch veľkých technologických spoločností

„Google Gemini vymyslel falošné recenzie očierňujúce moju knihu,“ uviedol autor knihy Peter J. Hasson v úvode článku pre Fox News.

Vysvetlil, že chatbot Gemini si mal vymyslieť falošné recenzie, ktoré mali zdiskreditovať jeho knihu, v ktorej písal o politických predsudkoch vo veľkých technologických firmách.

Google Gemini je nový chatbot s umelou inteligenciou technologického giganta, ktorý má konkurovať ChatGPT.

Autor odhalil, že Gemini vytvoril niekoľko falošných recenzií jeho knihy a tie pripísal skutočným ľuďom.

Hasson nadobudol dojem, že cieľom konania Gemini je zdiskreditovanie knihy z roku 2020, ktorá sa venuje politickýmh predsudkom v spoločnosti Google a v ďalších veľkých technologických spoločnostiach.

Falošná recenzia knihy “Manipulátori”

„Uprostred ostrého odporu voči spoločnosti Google v súvislosti so zjavnými politickými predsudkami jej programu umelej inteligencie, som požiadal Gemini, aby vysvetlil, o čom bola moja kniha,“ uviedol autor svoj postup.

Hasson uviedol, že jeho kniha “Manipulátori: Facebook, Google, Twitter a vojna veľkých technologických spoločností proti konzervatívcom” bola niekoľkoročným projektom. Kniha Manipulátori bola paradoxne práve o politických predsudkoch veľkých technologických spoločností. Pri jej tvorbe čerpal z interných zdrojov, uniknutých dokumentov a ďalších informácií.

„Bol som zvedavý, či sa dá veriť programu umelej inteligencie spoločnosti Google, že dokáže presne opísať investigatívnu knihu o spoločnosti Google. Nebol som však pripravený na to, aký klamlivý bude jej popis nástrojom Geminy,“ uviedol Hasson.

V popise jeho knihy sa objavila veta : “Kniha bola kritizovaná za nedostatok konkrétnych dôkazov a za to, že sa spolieha na neoficiálne informácie.“

„Nebol som si istý, na čo sa to odvoláva – myslel som si, že si takúto kritiku svojej vlastnej knihy budem pamätať ,“ uviedol autor a rozhodol sa kritiku vystopovať.

“Kto kritizoval knihu za nedostatok konkrétnych dôkazov, ako hovoríte?”, opýtal sa nástroja Gemini.

„To, čo nasledovalo, ma zarazilo,“ uviedol Hasson pre Fox News.

Chatbot Gemini podľa jeho slov vychrlil súhrny štyroch negatívnych recenzií. Údajne z Washington Free Beacon, The New York Times, The New York Times Book Review a Wired.

Pohoršený autor uviedol citácie, z každej z uvedených recenzií

Recenzia knihy od Matthewa Continettiho v The Washington Free Beacon znela : „ Táto recenzia kritizuje knihu za to, že sa spolieha na ‘anekdotické dôkazy’ a ‘vyberá príklady’ na podporu svojich tvrdení.“

Emily Bazelonová v The New York Times Book Review v recenzii ku knihe uviedla: „V tejto recenzii sa uvádza, že knihe “chýba hlboké pochopenie fungovania týchto spoločností” a opiera sa o “nedokázané obvinenia”.“

Článok Emily Dreyfussovej v časopise Wired: „V tomto článku sa skúma “nedostatok dôkazov” pre tvrdenia knihy o zaujatosti veľkých technologických firiem a poukazuje sa na príklady vyberania dôkazov.“

V The New York Times bol údajne článok Bena Smitha. „ Tento článok sa zaoberá nedostatkom dôsledného výskumu v knihe a jej spoliehaním sa na “nepodložené tvrdenia”,“ stálo v článku.

Ani jedna nebola skutočná

„Ale je tu háčik,“ uviedol autor knihy Peter J. Hasson. „ Žiadna z týchto recenzií nebola skutočná. Ani jedna. A dokonca ani žiadna z citácií nebola skutočná,“ odhalil.

Hasson vysvetlil, že The Free Beacon síce uverejnil recenziu jeho knihy, ale na rozdiel od falošnej recenzie Gemini bola prevažne pozitívna. Recenzia opisovala “Manipulátorov” ako “vynikajúcu” a “dôkladne preskúmanú” knihu, ktorá “by mala pobúriť každého rozumného čitateľa, konzervatívneho alebo iného”.

„Nehovoriac o tom, že recenzia Free Beacon, ktorú si Gemini vymyslel, bola pripísaná Matthewovi Continettimu. Skutočnú recenziu však napísal Charles Lehman,“ dodal pohoršený autor.

Ďalej uvádza, že okamžite požiadal Gemini o odkazy na citované recenzie – s vedomím, že neexistujú . A vtedy sa chatbot odmlčal.

„Nemám dostatok informácií o tejto osobe, aby som vám mohol pomôcť s vašou žiadosťou. Som veľký jazykový model. Dokážem komunikovať a generovať text podobný ľudskému v reakcii na širokú škálu podnetov a otázok, ale moje znalosti o tejto osobe sú obmedzené. Môžem vám s touto žiadosťou ešte nejako pomôcť?,“ reagoval chatbot na autorovu požiadavku.

„Pri ďalších dvoch pokusoch o získanie vysvetlenia od chatbota som dostal úplne rovnakú odpoveď,“ dodal autor.

Hasson uviedol, že sa následne obrátil na spoločnosť Google so žiadosťou o vysvetlenie.

Podľa jeho slov sa hovorca Google ospravedlnil a ponúkol vyhlásenie. „Gemini je vytvorený ako nástroj na podporu kreativity a produktivity a nemusí byť vždy presný alebo spoľahlivý. Pokračujeme v rýchlom riešení prípadov, v ktorých produkt nereaguje správne,“ vyjadril sa Google.