Илустрација

Научник који је написао водећи приручник о вештачкој интелигенцији (АИ) рекао је да су стручњаци “уплашени” сопственим успесима у овом пољу

Професор Стјуарт Расел, оснивач Центра за вештачку интелигенцију компатибилну с људима на Универзитету Калифорнија у Берклију, истакао је да већина стручњака верује да ће машине интелигентије од људи бити развијене у овом веку. Он је позвао на међународне уговоре како би се регулисао развој ове технологије.

Вештачка интелигенција је у основи многих аспеката модерног живота, од претраживача до банкарства, а напредак у препознавању слика и машинског превода су међу кључним постигнућима последњих година.

Морамо хитно осигурати да људи задрже контролу

Расел истиче да је потребан хитан рад како би се обезбедило да људи имају контролу како се развија суперинтелигентна вештачка интелигенција.

– АИ је дизајнирана са једном посебном методологијом и својеврсним генералним приступом. А ми нисмо довољно опрезни да користимо ту врсту система у компликованим условима стварног света – упозорио је.

На пример, наводи “Гардијан”, затражити од АИ да излечи рак што је пре могуће може бити опасно.

– Вероватно би нашла начин да изазове туморе у читавој људској популацији како би могла паралелно да спроведе милионе експеримената користећи све нас као заморчиће – каже Расел.

Једна забринутост је да машинама неће требати да буду интелигентније од људи у свим стварима да постану озбиљан ризик.

– То је нешто што се сада одвија. Ако погледате друштвене мреже и алгоритме који бирају шта ће људи читати и гледати, оне имају велику контролу над нашим когнитивним уносом – објашњава Расел.

Резултат је да алгоритми манипулишу корисницима, испирајући им мозак како би њихово понашање постало предвидљивије кад је у питању избор њихове ангажованости, повећавајући тако приходе засноване на кликовима.

Све смо уплашенији
Да ли су истраживачи вештачке интелигенције уплашени сопственим успехом?
– Да, мислим да смо све уплашенији – каже Расел.
– Ово ме помало подсећа на оно што се десило у физици са физичарима који су знали да постоји атомска енергија, могли су да измере масе различитих атома и схвате колико много енергије може да се ослободити ако урадите конверзију између различитих врста атома – навео је он, додајући да су стручњаци увек истицали да је та идеја теоретска.
– А онда се то догодило и нису били спремни за то.

Војна употреба

Употреба АИ у војсци – попут малог противпешадијског оружја – је предмет посебне забринутости.

– То су она којима је лако променити величину, што значи да можете ставити милион њих у један камион, отворити га и они ће отићи и избрисати читав град – наводи Расел.

Он верује да будућност АИ лежи у развоју машина које знају да је прави циљ неизвестан као и наше склоности, што значи да морају све одлуке да провере са људима, попут батлера. Али ова идеја је комплексна, посебно зато што различити људи имају различите – а понекад и супротстављене склоности – а те склоности нису фиксне.

Расел је позвао на мере, укључујући кодекс понашања за истраживаче, законе и споразуме који би озбебедили безбедност система АИ у употреби и обуку истраживача како би се обезбедило да вештачка интелигенција не буде подложна проблемима попут расне пристрасности. Он је такође указао да закон Европске уније (предложен у априлу) који би забранио да машине лажно представљају људе, требало усвојити широм света.

– Напредак у вештачкој интелигенцији је нешто за шта ће требати времена да се деси, али то је не чини научном фантастиком – закључио је.

Повезано: Српски ИТ стручњак открио мрачну страну вештачке интелигенције

Извор: Блиц

Магацин