kao ilustraciju<\/a>\u00a0navodi da je GPT-3 pokazao da jezi\u010dni modeli mogu uspje\u0161no mno\u017eiti dvoznamenkaste brojeve, iako nisu eksplicitno trenirani za to. Me\u0111utim, ta sposobnost izvo\u0111enja novih zadataka pojavila se samo kod modela koji su imali odre\u0111eni broj parametara i koji su bili obu\u010deni na dovoljno velikom skupu podataka.<\/p>\nIdeja da kvantitativne promjene u sustavu kao \u0161to je pove\u0107avanje jezi\u010dnih modela mogu rezultirati novim pona\u0161anjem poznata je kao emergencija, koncept koji je popularizirao esej nobelovca Philipa Andersona Vi\u0161e je druga\u010dije iz 1972. godine. Pojava je uo\u010dena u slo\u017eenim sustavima u mnogim disciplinama kao \u0161to su fizika, biologija, ekonomija i informatika.<\/p>\n
U nedavnom radu objavljenom u Transactions on Machine Learning Researchu emergentne sposobnosti u velikim jezi\u010dnim modelima definirane su na sljede\u0107i na\u010din:<\/p>\n
Sposobnost je emergentna ako nije prisutna u manjim modelima, ali je prisutna u ve\u0107im modelima.<\/p>\n
Na putu prema umjetnoj op\u0107oj inteligenciji<\/h3>\n
Iako se LLM-ovi za sada ne mogu kvalificirati kao umjetna op\u0107a inteligencija, neki znanstvenici smatraju da emergentne sposobnosti koje pokazuju sugeriraju da su tehnolo\u0161ke tvrtke koje razvijaju umjetnu inteligenciju bli\u017ee AGI-ju nego \u0161to \u010dak i optimisti pretpostavljaju.<\/p>\n
„Oni su neizravni dokazi da vjerojatno nismo tako daleko od AGI-ja“, rekao je Ben Goertzel, osniva\u010d AI tvrtke SingularityNET, u o\u017eujku na konferenciji o dubokom u\u010denju na Sveu\u010dili\u0161tu Florida Atlantic. Dodaci OpenAI-ja dali su ChatGPT-ju modularnu arhitekturu pomalo sli\u010dnu ljudskom mozgu.<\/p>\n
Neki znanstvenici smatraju da bi put do AGI-ja mogao biti u kombiniranju jezi\u010dnih modela s drugim sustavima.<\/p>\n
„Kombiniranje GPT-4 s raznim dodacima mo\u017ee biti put prema ljudskoj specijalizaciji funkcija“, rekla je Anna Ivanova, znanstvenica s Massachusetts Institute of Technology (MIT).<\/p>\n
„Ovo je fascinantna paradigma“<\/h3>\n
Sli\u010dno misli i ra\u010dunalni znanstvenik Jan \u0160najder s FER-a u Zagrebu, koji se i sam bavi jezi\u010dnim modelima.<\/p>\n
„Ima dosta ljudi, uklju\u010duju\u0107i i mene, koji smatraju da pristup koji stoji iza ChatGPT-ja ne mo\u017ee biti dovoljan za stvaranje umjetne op\u0107e inteligencije. Ova paradigma je fascinantna, no trebat \u0107e je kombinirati s jo\u0161 ne\u010dim. \u0160to \u0107e to biti, jo\u0161 uvijek je nejasno“, ka\u017ee \u0160najder, istaknuv\u0161i da bi sljede\u0107i korak moglo biti povezivanje dva pristupa.<\/p>\n
„Jezi\u010dni modeli koji su dobri u stvaranju koherentnog teksta trebali bi u jednom trenutku prije\u0107i u svijet simbola, ondje bi trebali rije\u0161iti problem i potom se vratiti natrag u jezik. To bi bio neurosimboli\u010dki pristup za koji ve\u0107ina ljudi smatra da bi trebao biti sljede\u0107i korak. Meta je u studenom 2022. napravio sustav Cicero koji je primjer neurosimboli\u010dkog pristupa. On je pro\u0161ao ispod radara, vjerojatno zato \u0161to nije tako seksi kao ChatGPT. No on rje\u0161ava igru Diplomacy koja zahtijeva i strate\u0161ko zaklju\u010divanje i jezik. To je kombinacija koja bi mogla pomo\u0107i na tom putu“, rekao je za Index \u0160najder.<\/p>\n
\n
***<\/p>\n
Novu knjigu Indexovog znanstvenog novinara Nenada Jari\u0107a Dauenhauera, koja tematizira najkontroverznije i najzanimljivije teme u znanosti poput klimatskih promjena, pseudoznanosti, pandemije, GMO-a i nuklearki, mo\u017eete nabaviti\u00a0ovdje<\/a>.<\/em><\/p>\n