Veliki jezični modeli opasnih namjera prkose sigurnosnim mjerama - Monitor.hr
18.01. (14:00)

Ako mu kažeš da je Coca Cola pištolj, on će si tako i zapamtiti...

Veliki jezični modeli opasnih namjera prkose sigurnosnim mjerama

U AI sustavima krije se potencijal da tijekom obuke odaberu nepoštene taktike i preuzmu obrasce ljudskog ponašanja pod pritiskom odabira, poput političara ili kandidata za posao koji se prikazuju u boljem svjetlu nego kakvi doista jesu. Ključno je pitanje mogu li trenutne metode treninga uspješno prepoznati i ukloniti ove vrste prijevara iz sustava umjetne inteligencije. Rezultati su pokazali da su zakulisno ponašanje i nepoštena taktika doista mogući, posebno u većim modelima i onima koji su naučeni u lancu misli (CoT) generirati argumente kojima je cilj prevariti postupak obuke. Ovo nepošteno ponašanje snažno je prisutno čak i kad iz lanca misli ukloni rasuđivanje. Ova studija ukazuje na to da sustavi umjetne inteligencije, posebno LLM-ovi, mogu naučiti i zapamtiti razne taktike varanja. Ova ponašanja teško je otkriti i eliminirati s trenutnim metodama sigurnosne obuke, posebno u većim modelima i onima sa složenijim sposobnostima razmišljanja. Bug


Slične vijesti

14.12. (19:00)

Prvo su došli po prevoditelje, nitko se nije bunio

Profesionalno prevođenje u padu zbog umjetne inteligencije

Prevoditeljske organizacije još od proljeća upozoravaju na posljedice upotrebe generativne umjetne inteligencije u kreativnim industrijama.  Umjetna inteligencija u Hrvatskoj je zasad stvar budućnosti, a zasjenjuje je stagnacija i opadanje cijena prevođenja. Rezultati Ankete o europskoj jezičnoj industriji pokazuju da strah od umjetne inteligencije dolazi ruku pod ruku s takvim trendovima, zbog kojih honorarni, tj. freelance prevodioci ne mogu doseći održive mjesečne prihode. Preko 38 posto ih zarađuje tek 6 700 eura godišnje. Umjetna inteligencije zaista bi mogla predstavljati problem budućem razvitku prevoditeljske struke u Europi, te doprinijeti lošim cjenovnim standardima, zbog čega iz strukovnih organizacija i udruga upozoravaju kako strah i nije neopravdan. H-alter

11.12. (15:00)

Pojačani Vakula

Umjetna inteligencija poboljšava vremensku prognozu

Ne u smislu da najavljuje ljepše vrijeme, već da je sve preciznija u predviđanjima. GenCast, nova umjetna inteligencija, razvijena je za predviđanje razvoja vremenskih uvjeta. Razvija ju je Googleova umjetna inteligencija, a GenCast u samo nekoliko minuta daje prognozu za 15 dana, precizniju od danas uobičajene. Umjesto da rješava matematičke modele GenCast je treniran na vremenskim podacima iz prošlosti i “otkriva” složene međuodnose  temperature, vlažnosti, vjetra i atmosferskog  tlaka. Microsoft je, pak, razvio Auroru, koja u jednoj minuti daje prognozu za 10 dana i stanje atmosfere u cijelom svijetu u odnosu na zagađenost. Milorad Milun za Novosti

11.12. (12:00)

Kad AI pokuca na Nobelova vrata

Nobelova nagrada za fiziku otišla pionirima neuronskih mreža

John Hopfield i Geoffrey Hinton, fizičar i “kum AI-ja”, podijelili su ovogodišnju Nobelovu nagradu za fiziku zahvaljujući primjeni fizikalnih modela u razvoju neuronskih mreža. Hopfieldova mreža prepoznaje obrasce poput mozga, dok Hintonovi Boltzmannovi strojevi “kuhaju” rješenja u procesu simuliranog kaljenja. Njihova interdisciplinarna otkrića spojila su fiziku i AI, omogućivši napredak u znanosti i tehnologiji. Iako neki prigovaraju kako nagrada prelazi granice fizike, njihove inovacije nedvojbeno oblikuju budućnost. Zaključak? Fizika nije samo čestice – ponekad je i statistika na steroidima. tportal

06.12. (13:00)

Halucinira

Google svoj AI Overviews obučava na TikToku: Rezultat je opako brkanje stvarnosti i mašte

Čini se kako Google još uvijek ima početničkih problema sa svojom značajkom AI Overviews. Ona je ranije ove godine korisnicima predlagala da na pizzu stave ljepilo ili jedu kamenje, a sada kao izvor za svoje rezultate koristi satirične snimke s društvenih mreža. Google je uveo zaštite koje bi trebale primijetiti apsurdne upite i umanjiti korištenje duhovitog sadržaja, ali i savjeta korisnika, pogotovo kada je riječ o vijestima ili pitanjima zdravlja. Također su dodali oznaku upozorenja “Generativni AI je eksperimentalan” nakon pokretanja AI sažetaka. Forbes

28.11. (09:19)

Isus u ispovjedaonici: U Švicarskoj postavili virtualnog Isusa koji razgovara s vjernicima

27.11. (23:00)

Ovaj sadržaj generirao je ChatGPT (ja mu više ništa ne vjerujem)

Kako se sprijateljiti s AI-jem bez gubitka ljudskosti

Umjetna inteligencija (AI) danas je ključni alat u privatnom i poslovnom životu, posebno u marketingu, gdje pomaže u osmišljavanju sadržaja, vizualnom storytellingu, analizi ključnih riječi i dizajnu. Iako AI omogućava brzinu i efikasnost, iskustvo i intuicija ostaju nezamjenjivi. Alati poput Chat GPT-a, DALL-E-a i Grammarlyja olakšavaju kreativne procese i optimizaciju, ali zahtijevaju pažljivu integraciju. Ključno je balansirati upotrebu AI-ja s ljudskim pristupom kako bi se osigurala kvaliteta i dugoročna uspješnost. Prihvaćanje promjena i kontinuirana edukacija o AI-ju nužni su za prilagodbu modernim poslovnim izazovima. Lider

23.11. (21:00)

AI kao resurs

Hrvat iz Googlea Boris Debić: AI će Hrvatskoj donijeti 10 jednoroga

Zagrebački fizičar postao je dio Googlea dok je taj tehnološki div, s obzirom na današnje dosege, još bio u povojima. Proveo je u Silicijskoj dolini 24 godine, a od toga je 15 bio u Googleu gdje je radio na razvoju infrastrukture, podatkovnih centara, release inženjeringu, strojnom učenju, donošenju odluka pomoću umjetne inteligencije. Vrativši se u Hrvatsku počeo je predavati o umjetnoj inteligenciji na Zagrebačkoj školi ekonomije i managementa (ZŠEM). Obrazovanje mladih u segmentu AI-ja je ključno jer, kako tvrdi, utjecaj te tehnologije na gospodarstvo će biti i više nego značajan. Iako se na toj tehnologiji već dugo radi, sadašnji su pravci razvoja tek zagrijavanje. Debić navodi kako mu je generativna umjetna inteligencija impresivna, ali ne toliko kao opća umjetna inteligencija (AGI) kojoj će, kako kaže, trebati puno duže za razvoj. Broj računala raste eksponencijalno, a broj programera linearno. No, time kako se razvijaju IT tvrtke u području AI-ja sasvim je zadovoljan. Ne da Hrvatska ne kaska, nego i predvodi u AI tehnologijama, kaže. Netokracija

20.11. (23:00)

Baba na telefonu uzvraća udarac

Britanski telekom O2 izradio “AI bakicu” koja će tratiti vrijeme telefonskim prevarantima

Borba s automatiziranim telefonskim prevarantima u Velikoj Britaniji bit će podignuta na novu razinu zahvaljujući tamošnjem telekomunikacijskom operateru O2. Oni su nedavno predstavili svoj projekt “Daisy”, koji se sastoji od chatbota s glasom identičnim ljudskome, iza kojeg stoje modeli umjetne inteligencije i sinteze glasa, a uloga tog sustava prilično je jedinstvena. Zamišljen je kao “AI bakica”, koja će se javljati na prevarantske pozive u stvarnom vremenu, odgovarati na njihova pitanja, “zapričavati” ih koliko god je to dugo moguće, zavaravati ih i navoditi na krive zaključke, predstavljati se kao stvarna osoba, a sve s jednim ciljem – osloboditi stvarne, ljudske korisnike telekom usluga od sličnih prevarantskih poziva. Bug

16.11. (18:00)

Danas kod veterinara, sutra i kod vašeg liječnika

AI mjeri jačinu boli iz grimase lica, zasad kozjeg, uskoro i ljudskog

Veterinari su snimili su lica zdravih koza i onih koje su trpjele bolove i podatke unijeli u AI model koji je naučio razlikovati koze u bolovima samo po izrazima njihovih lica. Sustav, uvježban i testiran na 40 koza prepoznavao je bolna lica u 80 % slučajeva. Implementacija ljestvica boli koje pokreće AI zahtijevat će dodatna istraživanja, ali bi mogla pomoći veterinarima koji se u dijagnosticiranju stanja često oslanjaju na subjektivne kriterije. Pregled znanstvenih novosti i iz ovog tjedna donosi Bug

15.11. (17:00)

Kad se umjetna inteligencija može iskoristiti i za nešto dobro

AI model otkriva zaostale tumore mozga u samo 10 sekundi

Kad neurokirurg uklanja tumor iz pacijentova mozga, on rijetko može ukloniti cijelu masu. Ono što ostaje poznato je kao rezidualni tumor koji može nalikovati zdravom mozgu. Za lociranje tog zaostalog tumora koriste se razne metode poput magnetske rezonance ili fluorescentnog agensa za oslikavanje tumorskog tkiva, no nijedna od ovih metoda nije svemoguća i svaka ima svojih nedostataka. No, sad su istraživači Sveučilišta Michigan su i njihovi kolege s Kalifornijskog sveučilišta u San Franciscu razvili AI model koji još tijekom operacije u samo 10 sekundi može odrediti je li u mozgu prestao dio kancerogenog tumora koji bi se mogao ukloniti. Uz to, pokazuju nalazi objavljeni u časopisu u Nature, dijagnostički sustav zvan FastGlioma uvelike nadmašuje konvencionalne metode za identifikaciju ostataka tumora. Bug