ChatGPT a veda: Systémy umelej inteligencie získali v roku 2023 skutočnú moc – dobrú aj zlú

❚❚

Bratislava 8. januára 2024 (HSP/Nature/Foto:Pixabay)

 

Neurónové siete a umelá inteligencia (AI) sa postarali o veľký rozruch a dokonca sa im podarilo dostať do vedeckého rebríčka, v ktorom sa zvyčajne umiestňujú len ľudia, píše Nature. Táto technológia znamenala začiatok generatívnej revolúcie v oblasti umelej inteligencie. A už nie je cesty späť

ChatGPT
Ilustračné foto

Generatívna umelá inteligencia, hrdé dieťa ľudských rúk, je pozoruhodnou imitáciou mysle samotného človeka. Predstavuje potenciálne novú éru vo výskume, ale nesie so sebou aj vysoké riziká.

.

Umelá inteligencia vystupuje ako spoluautor vedeckých prác – niekedy tajne. Píše texty do prezentácií, žiadostí o granty a vzdelávacích programov a píše počítačový kód. Dokonca sa zúčastňuje na rozhovoroch s vedcami a diskutuje s nimi o ich myšlienkach. Vymýšľa si odkazy, nahrádza fakty a vyvoláva nenávisť. Ale najúspešnejšia bola jej schopnosť zaujať ľudskú myseľ: bola poslušná, pútavá, zábavná, a dokonca aj desivá. ChatGPT bol tým, čím chceli jeho respondenti, aby bol – a niekedy aj opakom toho, čím chceli, aby bol.

Prečo zaradiť počítačový program do zoznamu osobností, ktoré budú určovať tvár vedy v roku 2023? ChatGPT nie je človek. Napriek tomu mal tento program za posledný rok v mnohých ohľadoch hlboký a rozsiahly vplyv na vedu.

.

Jedinou úlohou ChatGPT je hodnoverne viesť dialógy podľa vzorov, na ktorých bol vycvičený. Tým však spolu s ďalšími programami generatívnej umelej inteligencie mení spôsob práce niektorých vedcov a ich výskumné metódy. Rozkvet týchto technológií tiež spôsobil, že mnohé diskusie sa stali opäť aktuálnymi. Napríklad o tom, kde hľadať hranicu možností umelej inteligencie. Alebo o povahe ľudskej inteligencie a o tom, ako najlepšie regulovať interakciu medzi ňou a vedomím stroja. Aj preto sa v roku 2023 do prvej desiatky rebríčka Nature dostala aj entita, ktorá nie je človekom.

Niektorí vedci si už dlho uvedomujú potenciál, ktorý majú veľké jazykové modely (VJM). Ale pre mnohých bol práve príchod ChatGPT ako voľného partnera na rozhovor v novembri 2022 príležitosťou rýchlo spoznať schopnosti a premenlivosť tejto technológie. Program vytvorili výskumníci z OpenAI v kalifornskom San Franciscu; medzi nimi bol aj Ilya Sutskever, ktorého meno nájdete aj v desiatke najlepších v časopise Nature na rok 2023. Systém ChatGPT je vytvorený pomocou neurónovej siete so stovkami miliárd parametrov, ktorá bola vyškolená na cyklickom online korpuse kníh a dokumentov, ktorých hodnota sa odhaduje na desiatky miliónov dolárov. Okrem toho sa na úprave a vyhodnocovaní odpovedí bota podieľalo mnoho ďalších pracovníkov. To malo ešte väčší vplyv na jeho konečnú tvorbu. V roku 2023 OpenAI vylepšil základný VJM ChatGPT a prepojil ho s ďalšími programami, aby mohol prijímať a vytvárať obrázky, ako aj pracovať s matematickými a kódovacími programami. Ostatné spoločnosti v odvetví začali narýchlo vytvárať konkurenciu.

Pre niektorých výskumníkov sa tieto aplikácie už stali neoceniteľnými pomocníkmi pri ich laboratórnych činnostiach – pomáhajú im sumarizovať údaje alebo písať články, zlepšovať výkon softvéru a písať softvérový kód. ChatGPT a príbuzný softvér môžu pomôcť pri brainstormingu, zlepšiť algoritmy vedeckých vyhľadávačov a identifikovať medzery v bibliografiách, hovorí Marinka Zitnik. Tá vytvára umelú inteligenciu na použitie v lekárskom výskume na Harvard Medical School v Bostone. Modely vyškolené na vedeckých údajoch môžu prispieť k vývoju systémov umelej inteligencie, ktoré vedcom naznačia nové cesty a smery, ktorými sa majú pri výskume uberať. Zitnik dodáva: môžu byť schopné simulovať nové molekuly alebo správanie buniek.

Táto technológia je však aj nebezpečná. Automatizovaných partnerov môžu využívať aj podvodníci a plagiátori; ak sa to nekontroluje, môžu spôsobiť nenapraviteľné škody na všeobecnom súbore vedeckých poznatkov. Na internet už začali prenikať informácie generované umelou inteligenciou, ktoré by sa mohli považovať za tajné, a niektorí vedci sa priznali, že ChatGPT používajú na písanie článkov, pričom o tom mlčia.

Okrem toho, problémy s chybami a zaujatosťou sa nikam neposúvajú. A čo viac, sú zakotvené v samotnom princípe fungovania generatívnej umelej inteligencie. Veľké jazykové modely vytvárajú model sveta mapovaním jazykových vzťahov a potom z tohto rozdelenia vychádzajú hodnoverné vzorky bez koncepcie posudzovania pravdivosti alebo nepravdivosti. To vedie k tomu, že programy reprodukujú historické zaujatosti alebo nepresnosti, ktoré dostali ako tréningové údaje, ako aj jednoducho vymýšľajú informácie – napríklad neexistujúce vedecké odkazy.

.

Emily Benderová, počítačová lingvistka z Washingtonskej univerzity v Seattli, nevidí vhodné spôsoby využitia tohto druhu vynálezov. Nenazýva ich ničím iným ako “syntetickými strojmi na emitovanie textu”. ChatGPT má podľa nej veľký vplyv na životné prostredie. Nie je mu cudzia zaujatosť, ktorá môže byť zdrojom problémov, a je schopný zavádzať svojich partnerov, aby si mysleli, že odpovede bota v skutočnosti pochádzajú od človeka. Spoločnosť OpenAI bola tiež zažalovaná za krádež údajov. Spoločnosť bola obvinená aj z využívania vykorisťovateľských pracovných praktík (najímanie externých pracovníkov za nízku mzdu).

Rozsah a zložitosť veľkých jazykových systémov (VJM) znamená, že sú vo svojej podstate čiernymi skrinkami. Úplné pochopenie toho, prečo produkujú to, čo produkujú, je však ťažšie, keď informácie o kódoch, na ktorých bežia, a údajoch, na ktorých boli vyškolené, nemožno nájsť vo verejnom priestore. Napríklad ako v prípade ChatGPT. Používanie VJM s otvoreným zdrojovým kódom rastie, ale zatiaľ sú tieto modely menej schopné ako väčšie programy s uzavretým zdrojovým kódom.

Niektoré krajiny vytvárajú národné projekty pre výskum umelej inteligencie – aby vedci mimo korporácií v tejto oblasti mohli vytvárať a študovať veľké generatívne AI. Stále však nie je jasné, či regulácia môže prinútiť vývojárov AI zverejniť kód alebo poskytnúť bezpečnostné prvky.

Nikto nevie, čoho všetkého sú ešte systémy ako ChatGPT schopné. Je pravdepodobné, že ich schopnosti sú stále obmedzené dostupnosťou výpočtového výkonu alebo nových tréningových údajov. Generatívna revolúcia v oblasti umelej inteligencie sa však už začala. A už nie je cesty späť.

Autori článku: Mgr: Richard Van Noorden a Richard Webb

.

 

Prihláste sa k odberu newslettra Hlavných správ

Prihláste sa k odberu newslettra Hlavných správ


Pošlite nám tip
.
.

Varovanie

Vážení čitatelia - diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne. Viac o povinnostiach diskutéra sa dozviete v pravidlách portálu, ktoré si je každý diskutér povinný naštudovať a ktoré nájdete tu. Publikovaním príspevku do diskusie potvrdzujete, že ste si pravidlá preštudovali a porozumeli im.




NAŽIVO

Včera 19:50

Prokurdské opozičné strany zvolali na štvrtok podvečer zhromaždenie na protest proti dočasnému odvolaniu primátora mesta Esenyurt, ktorý bol zadržaný pre podozrenie z napojenia na zakázanú Stranu kurdských pracujúcich (PKK).

Včera 19:06

Súd v Lotyšsku odsúdil muža, ktorý pracoval ako taxikár, na sedem rokov väzenia za špionáž pre susedné Rusko. Uznal ho za vinného zo zhromažďovania informácií, ktoré by mohli zaujímať ruské tajné služby a bezpečnostné zložky.

Včera 19:04

Gruzínske ministerstvo vnútra vo štvrtok oznámilo zadržanie podpredsedu samosprávy v meste Marneuli, ktorý je spolu s ďalšou osobou podozrivý z neoprávneného vhadzovania hlasovacích lístkov do volebnej urny.

Včera 18:41

Nemecko zatvorí všetky tri iránske konzuláty na svojom území v reakcii na popravu nemecko-iránskeho občana Džamšída Šármahda, oznámila vo štvrtok nemecká ministerka zahraničných vecí Annalena Baerbocková.

Včera 18:28

Moldavský ústavný súd vo štvrtok uznal výsledky referenda z 20. októbra, v ktorom voliči tesnou väčšinou rozhodli o ústavnom zakotvení smerovania krajiny do Európskej únie.

Včera 18:27

Ukrajinský prezident Volodymyr Zelenskyj informoval, že Rusko prostredníctvom kanálov tajných služieb Západu potvrdilo zapojenie severokórejských vojakov do vojny voči Ukrajine. Zelenskyj vyslovil predpoklad, že Rusko takto testuje reakciu Západu – v prípade, že bude slabá, je odhodlané povolať viac vojakov KĽDR.

Včera 18:26

Maďarský minister zahraničných vecí Péter Szijjártó vo štvrtok vo svojom prejave v Minsku kritizoval EÚ za uvalenie sankcií na Bielorusko a Rusko.

Szijjártó Lavrov
Na snímke zľava maďarský minister zahraničných vecí Péter Szijjártó a ruský minister zahraničných vecí Sergej Lavrov
Včera 18:25

Na najmenej 158 stúpol počet obetí prívalových dažďov a záplav, ktoré v utorok a stredu postihli juhovýchod Španielska. Väčšinu – 155 – hlásili úrady z regiónu Valencia, dve obete evidujú aj v regióne Kastília-La Mancha a jednu v Andalúzii. Desiatky ľudí sú stále nezvestné.

Včera 18:24

Český premiér Petr Fiala vo štvrtok zopakoval, že Česko by podľa neho malo presunúť svoje veľvyslanectvo v Izraeli do Jeruzalema, ale podotkol, že dôležité je načasovanie tohto kroku. Malo by sa to tiež stať v spolupráci s ďalšími európskymi štátmi, čo podľa Fialu nie je vylúčené. Povedal to v Poslaneckej snemovni počas štvrtkových interpelácií.

Zobraziť všetky
.

NAJČÍTANEJŠIE










.

NAJNOVŠIE










NAJNOVŠIA KARIKATÚRA

.

POČASIE NA DNES

NAJNOVŠIE ROZHOVORY

NAJNOVŠIE Z DOMOVA

NAJNOVŠIE ZO ZAHRANIČIA

NAJNOVŠIE ZO ŠPORTU

NAJNOVŠIE ZO SVETONÁZORU

FOTO DŇA

Na snímke socha spiacej čínskej astronautky, na ktorú sa pozerá muž z kontajnerovej reštaurácie v umeleckej štvrti Sung-čuang v Pekingu

Autor: TASR/AP-Andy Wong

Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali

.

Video

.

Blog - redakcia Hlavných správ nezodpovedá za obsah blogerských príspevkov

Emma Maťašovská

René Pavlík

Erik Majercak

Ivan Štubňa

Andrej Sablič

.
Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali