ChatGPT a veda: Systémy umelej inteligencie získali v roku 2023 skutočnú moc – dobrú aj zlú

❚❚

Bratislava 8. januára 2024 (HSP/Nature/Foto:Pixabay)

 

Neurónové siete a umelá inteligencia (AI) sa postarali o veľký rozruch a dokonca sa im podarilo dostať do vedeckého rebríčka, v ktorom sa zvyčajne umiestňujú len ľudia, píše Nature. Táto technológia znamenala začiatok generatívnej revolúcie v oblasti umelej inteligencie. A už nie je cesty späť

ChatGPT
Ilustračné foto

Generatívna umelá inteligencia, hrdé dieťa ľudských rúk, je pozoruhodnou imitáciou mysle samotného človeka. Predstavuje potenciálne novú éru vo výskume, ale nesie so sebou aj vysoké riziká.

.

Umelá inteligencia vystupuje ako spoluautor vedeckých prác – niekedy tajne. Píše texty do prezentácií, žiadostí o granty a vzdelávacích programov a píše počítačový kód. Dokonca sa zúčastňuje na rozhovoroch s vedcami a diskutuje s nimi o ich myšlienkach. Vymýšľa si odkazy, nahrádza fakty a vyvoláva nenávisť. Ale najúspešnejšia bola jej schopnosť zaujať ľudskú myseľ: bola poslušná, pútavá, zábavná, a dokonca aj desivá. ChatGPT bol tým, čím chceli jeho respondenti, aby bol – a niekedy aj opakom toho, čím chceli, aby bol.

Prečo zaradiť počítačový program do zoznamu osobností, ktoré budú určovať tvár vedy v roku 2023? ChatGPT nie je človek. Napriek tomu mal tento program za posledný rok v mnohých ohľadoch hlboký a rozsiahly vplyv na vedu.

.

Jedinou úlohou ChatGPT je hodnoverne viesť dialógy podľa vzorov, na ktorých bol vycvičený. Tým však spolu s ďalšími programami generatívnej umelej inteligencie mení spôsob práce niektorých vedcov a ich výskumné metódy. Rozkvet týchto technológií tiež spôsobil, že mnohé diskusie sa stali opäť aktuálnymi. Napríklad o tom, kde hľadať hranicu možností umelej inteligencie. Alebo o povahe ľudskej inteligencie a o tom, ako najlepšie regulovať interakciu medzi ňou a vedomím stroja. Aj preto sa v roku 2023 do prvej desiatky rebríčka Nature dostala aj entita, ktorá nie je človekom.

Niektorí vedci si už dlho uvedomujú potenciál, ktorý majú veľké jazykové modely (VJM). Ale pre mnohých bol práve príchod ChatGPT ako voľného partnera na rozhovor v novembri 2022 príležitosťou rýchlo spoznať schopnosti a premenlivosť tejto technológie. Program vytvorili výskumníci z OpenAI v kalifornskom San Franciscu; medzi nimi bol aj Ilya Sutskever, ktorého meno nájdete aj v desiatke najlepších v časopise Nature na rok 2023. Systém ChatGPT je vytvorený pomocou neurónovej siete so stovkami miliárd parametrov, ktorá bola vyškolená na cyklickom online korpuse kníh a dokumentov, ktorých hodnota sa odhaduje na desiatky miliónov dolárov. Okrem toho sa na úprave a vyhodnocovaní odpovedí bota podieľalo mnoho ďalších pracovníkov. To malo ešte väčší vplyv na jeho konečnú tvorbu. V roku 2023 OpenAI vylepšil základný VJM ChatGPT a prepojil ho s ďalšími programami, aby mohol prijímať a vytvárať obrázky, ako aj pracovať s matematickými a kódovacími programami. Ostatné spoločnosti v odvetví začali narýchlo vytvárať konkurenciu.

Pre niektorých výskumníkov sa tieto aplikácie už stali neoceniteľnými pomocníkmi pri ich laboratórnych činnostiach – pomáhajú im sumarizovať údaje alebo písať články, zlepšovať výkon softvéru a písať softvérový kód. ChatGPT a príbuzný softvér môžu pomôcť pri brainstormingu, zlepšiť algoritmy vedeckých vyhľadávačov a identifikovať medzery v bibliografiách, hovorí Marinka Zitnik. Tá vytvára umelú inteligenciu na použitie v lekárskom výskume na Harvard Medical School v Bostone. Modely vyškolené na vedeckých údajoch môžu prispieť k vývoju systémov umelej inteligencie, ktoré vedcom naznačia nové cesty a smery, ktorými sa majú pri výskume uberať. Zitnik dodáva: môžu byť schopné simulovať nové molekuly alebo správanie buniek.

Táto technológia je však aj nebezpečná. Automatizovaných partnerov môžu využívať aj podvodníci a plagiátori; ak sa to nekontroluje, môžu spôsobiť nenapraviteľné škody na všeobecnom súbore vedeckých poznatkov. Na internet už začali prenikať informácie generované umelou inteligenciou, ktoré by sa mohli považovať za tajné, a niektorí vedci sa priznali, že ChatGPT používajú na písanie článkov, pričom o tom mlčia.

Okrem toho, problémy s chybami a zaujatosťou sa nikam neposúvajú. A čo viac, sú zakotvené v samotnom princípe fungovania generatívnej umelej inteligencie. Veľké jazykové modely vytvárajú model sveta mapovaním jazykových vzťahov a potom z tohto rozdelenia vychádzajú hodnoverné vzorky bez koncepcie posudzovania pravdivosti alebo nepravdivosti. To vedie k tomu, že programy reprodukujú historické zaujatosti alebo nepresnosti, ktoré dostali ako tréningové údaje, ako aj jednoducho vymýšľajú informácie – napríklad neexistujúce vedecké odkazy.

.

Emily Benderová, počítačová lingvistka z Washingtonskej univerzity v Seattli, nevidí vhodné spôsoby využitia tohto druhu vynálezov. Nenazýva ich ničím iným ako “syntetickými strojmi na emitovanie textu”. ChatGPT má podľa nej veľký vplyv na životné prostredie. Nie je mu cudzia zaujatosť, ktorá môže byť zdrojom problémov, a je schopný zavádzať svojich partnerov, aby si mysleli, že odpovede bota v skutočnosti pochádzajú od človeka. Spoločnosť OpenAI bola tiež zažalovaná za krádež údajov. Spoločnosť bola obvinená aj z využívania vykorisťovateľských pracovných praktík (najímanie externých pracovníkov za nízku mzdu).

Rozsah a zložitosť veľkých jazykových systémov (VJM) znamená, že sú vo svojej podstate čiernymi skrinkami. Úplné pochopenie toho, prečo produkujú to, čo produkujú, je však ťažšie, keď informácie o kódoch, na ktorých bežia, a údajoch, na ktorých boli vyškolené, nemožno nájsť vo verejnom priestore. Napríklad ako v prípade ChatGPT. Používanie VJM s otvoreným zdrojovým kódom rastie, ale zatiaľ sú tieto modely menej schopné ako väčšie programy s uzavretým zdrojovým kódom.

Niektoré krajiny vytvárajú národné projekty pre výskum umelej inteligencie – aby vedci mimo korporácií v tejto oblasti mohli vytvárať a študovať veľké generatívne AI. Stále však nie je jasné, či regulácia môže prinútiť vývojárov AI zverejniť kód alebo poskytnúť bezpečnostné prvky.

Nikto nevie, čoho všetkého sú ešte systémy ako ChatGPT schopné. Je pravdepodobné, že ich schopnosti sú stále obmedzené dostupnosťou výpočtového výkonu alebo nových tréningových údajov. Generatívna revolúcia v oblasti umelej inteligencie sa však už začala. A už nie je cesty späť.

Autori článku: Mgr: Richard Van Noorden a Richard Webb

.

 

Prihláste sa k odberu newslettra Hlavných správ

Prihláste sa k odberu newslettra Hlavných správ


Pošlite nám tip
.
.

Varovanie

Vážení čitatelia - diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne. Viac o povinnostiach diskutéra sa dozviete v pravidlách portálu, ktoré si je každý diskutér povinný naštudovať a ktoré nájdete tu. Publikovaním príspevku do diskusie potvrdzujete, že ste si pravidlá preštudovali a porozumeli im.




NAŽIVO

17:59

Úrokové sadzby pri najpopulárnejších úveroch na bývanie v Spojených štátoch pokračovali minulý týždeň v raste, pričom sa dostali na najvyššiu úroveň za posledné štyri mesiace. Ak sa do úvahy vezmú aj vyššie ceny domov v USA, najnovšie údaje o hypotékach tak môžu v najbližšom období skomplikovať možnosti potenciálnym záujemcom o kúpu nehnuteľnosti. Informovala o tom agentúra Reuters, ktorá zverejnila ostatné údaje hypotekárnej agentúry Freddie Mac.

17:57

Fyzické potýčky vypukli v pondelok v srbskom parlamente po tom, čo opoziční poslanci rozvinuli transparenty obviňujúce vládnucu koalíciu zo snahy vyhnúť sa zodpovednosti za zrútenie strechy železničnej stanice v Novom Sade. Nešťastie, ku ktorému došlo tento mesiac, si vyžiadalo 15 obetí na životoch.

Srbsko Nový Sad nešťastie parlament roztržka
Poslanci vládnucej strany, opoziční poslanci a niektorí ministri sa hádajú počas zasadnutia srbského parlamentu, ktorý mal rokovať o rozpočte na rok 2025, v Belehrade v pondelok 25. novembra 2024
17:53

Poslanca maďarského parlamentu z opozičnej strany Momentum Andrása Fekete-Győra zbavil v pondelok zákonodarný zbor mandátu. Za uznesenie o nezlučiteľnosti jeho mandátu z dôvodu právoplatného rozsudku hlasovalo 142 poslancov, 32 zákonodarcov bolo proti.

17:41

Minister pôdohospodárstva a rozvoja vidieka SR Richard Takáč (Smer-SD) v pondelok prijal mimoriadneho a splnomocneného veľvyslanca Francúzska na Slovensku Nicolasa Surana. Hovorili spolu o prehĺbení spolupráce v oblasti vzdelávania či o medzinárodných dohodách týkajúcich sa obchodu s agrokomoditami. Informovala o tom hovorkyňa Ministerstva pôdohospodárstva a rozvoja vidieka (MPRV) SR Veronika Daničová.

17:41

Izraelský bezpečnostný kabinet na svojom zasadnutí v utorok prerokuje návrh dohody o uzavretí prímeria s proiránskym libanonským hnutím Hizballáh. Podľa agentúry AFP o tom v pondelok informovala izraelská televízia Kešet 12.

17:17

Hlavný index newyorskej burzy Dow Jones vzrástol na nový rekord a rekordnú hodnotu zaznamenal aj širší index S&P 500. Trhy tak zareagovali na rozhodnutie novozvoleného prezidenta USA Donalda Trumpa nominovať na post ministra financií investora Scotta Bessenta.

17:16

V pondelok podvečer sa v Štrasburgu začína štvordňové plenárne zasadnutie Európskeho parlamentu (EP). Najdôležitejším bodom programu je hlasovanie o novej Európskej komisii (EK) a tiež o dohode o rozpočte Európskej únie na rok 2025.

17:16

Ceny ropy klesli o takmer 2 %, pričom cena Brentu skĺzla pod hranicu 74 USD za barel (159 litrov). Trhy tak zareagovali na správy servera Axios, ktorý s odvolaním sa na nemenovaného predstaviteľa americkej administratívy uviedol, že Izrael a libanonské hnutie Hizballáh sa dohodli na podmienkach prímeria. Informovali o tom agentúry Reuters a Bloomberg.

17:10

Rozsiahlym prieskumom o násilí páchanom na ženách v EÚ sa zistilo, že fyzické násilie – vrátane vyhrážok – alebo sexuálne násilie zažila každá tretia žena v EÚ. Tieto zistenia, zverejnené v pondelok, vychádzajú z prieskumu, ktorý sa uskutočnil v 27 členských štátoch EÚ v rokoch 2020-24 na vzorke vyše 114.000 žien vo veku od 18 do 74 rokov.

Násilie Ženy
Na snímke červené topánky sú rozmiestnené na ulici pri príležitosti Medzinárodného dňa boja proti násiliu páchanému na ženách v Berlíne v pondelok 25. novembra 2024
16:38

Británia uvalí doposiaľ najväčší balík sankcií proti ruskej “tieňovej flotile”, teda tankerom, prostredníctvom ktorých Rusko obchádza embargá na vývoz ropy. Sankcie sa budú týkať 30 plavidiel, oznámil v pondelok britský minister zahraničných vecí David Lammy. Zároveň vyzval spojencov zo skupiny G7, aby naďalej poskytovali vojenskú pomoc Ukrajine.

Zobraziť všetky
.

NAJČÍTANEJŠIE










.

NAJNOVŠIE










NAJNOVŠIA KARIKATÚRA

.

POČASIE NA DNES

NAJNOVŠIE ROZHOVORY

NAJNOVŠIE Z DOMOVA

NAJNOVŠIE ZO ZAHRANIČIA

NAJNOVŠIE ZO ŠPORTU

NAJNOVŠIE ZO SVETONÁZORU

FOTO DŇA

Na snímke chameleón počas podujatia AkvaTera v Košiciach

Autor: TASR – František Iván

Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali

.

Video

.

Blog - redakcia Hlavných správ nezodpovedá za obsah blogerských príspevkov

Ivan Štubňa

Michal Durila

Andrej Sablič

Dušan Hirjak

Viktor Pondělík

.
Facebook icon

Vážení čitatelia, prosíme vás, aby ste sa prihlásili na našu novú facebookovú stránku. Facebook nám totiž zmazal niektoré účty, ktoré starú stránku spravovali