fbpx
Pre vyhľadávanie sú vyžadované aspoň 2 znaky
Judgment Day 2023

31. mája 2023 Bratislavu navštívil po prvýkrát svetoznámy vedec: Z čoho má pri rozvoji AI obavy?

Judgment DayKonferenciaKybernetická bezpečnosť

Pred pár dňami sa v Bratislave stretli odborníci z oblasti IT, ktorí diskutovali o trendoch a inováciách v rámci umelej inteligencie a kybernetickej bezpečnosti. Na odbornej konferencii Judgment Day slovenskej IT firmy Alanata sa osobne zúčastnil a prednášal aj svetoznámy počítačový vedec a profesor informatiky Stuart Jonathan Russell z Kalifornskej univerzity v Berkeley. Aký bol jeho odkaz na adresu rozvoja AI?

Cieľom konferencie bolo priniesť nový pohľad na rozvoj a smer AI a kybernetickej bezpečnosti, ako aj rozprúdiť debatu o tom, kam speje ich vývoj, poprípade, aké hrozby môžeme v blízkej dobe očakávať a na čo je potrebné sa čím skôr pripraviť. Zaujímavé bolo sledovať, že ani odborníci a technologickí experti sa v otázke inovácie umelej inteligencie nezhodujú.

„V otázke podpory alebo zákazu rozvoja umelej inteligencie sa prikláňam na liberálnejšiu stranu, pretože som presvedčený, že prílišná regulácia a zásahy štátu masívnym spôsobom stopujú inovácie. Som presvedčený, že zákazmi nič nedocielime a mám k tomu paralely z 90. rokov, kedy sa snažili zastaviť internet. Keby sa v tej dobe postavili veľké vlády k internetu takýmto zásadným regulačným spôsobom, tak by to pochovalo akýkoľvek progres v tejto oblasti,“ uviedol CEO spoločnosti Alanata Martin Murgáč.

Hlavný rečník podujatia, počítačový vedec a profesor informatiky z UC Berkeley, Stuart J. Russell má skôr opatrnejší prístup. Prezradil ho aj v jeho prednáške s názvom Bezpečná umelá inteligencia. V používaní AI bez regulácie vníma viac rizík. Je presvedčený o tom, že sa dá regulácia cielene nasadiť v rámci veľkých jazykových modelov a pokiaľ firma nebude spĺňať určité regulátore požiadavky, nebude môcť publikovať takýto veľký model. Je presvedčený, že tento prístup je smer, ktorým by sme mali uberať.

Rozhovor so Stuartom Russellom

„Európsky zákon o umelej inteligencii sa pripravuje už niekoľko rokov. Myslím si, že jeho základný princíp je veľmi rozumný. Ak bude systém AI pracovať s vysokým rizikom, napr. aplikáciami, ktoré súvisia so zdravotnou starostlivosťou, finančníctvom či právom, tak musíte dokázať, že je to bezpečné, predvídateľné a odolné. To je základný princíp zákona. A potom existujú špecifické zákazy ako napr. zákaz vydávania sa za ľudské bytosti. To znamená, že ľudské bytosti majú právo vedieť či komunikujú so strojom alebo s osobou. Myslím si, že je to základné právo a musí byť presadzované celosvetovo v každej krajine,“ odpovedal Stuart Russell na otázku regulácie AI v európskych krajinách.

Ich ďalší vývoj vidí vo väčšej kvalite a bezpečnosti: „Myslím si, že ďalšia evolúcia veľkých jazykových modelov ako ChatGPT, botov a mnohých iných, bude spočívať v tom, že sa stanú spoľahlivejšími, prestanú zavádzať a celkovo sa budú lepšie správať. Ak ich chcete použiť v hocijakom obchodnom kontexte, tak sa musíte vedieť spoľahnúť, že budú dodržiavať pravidlá, povedia pravdu o produktoch a budú dodržiavať zásady vášho podnikania,“ uviedol Russell.

Jednotlivé prednášky boli zamerané na veľmi aktuálne otázky z oblasti kybernetickej bezpečnosti a umelej inteligencie. Prezentujúci otvorili rôzne témy, ako napríklad bezpečná AI, boty a automatizované útoky, tipy, ako chrániť organizáciu bez interného SOC (Security Operation Center), predpoveď budúcich hrozieb, ako AI mení kybernetickú bezpečnosť.

Chcete si pozrieť celý záznam z konferencie Judgment Day 2023?Kliknite pre viac informácií