Учени от Google и Оксфорд: Изкуственият интелект най-вероятно ще ни анихилира

Технологии
Не бъди безразличен, сподели статията с твоите приятели:

Изследователи от Google Deepmind и Оксфордския университет стигнаха до заключението, че вече е „вероятно“ свръхинтелигентният изкуствен интелект да постави край на човечеството – мрачен сценарий, който все повече и повече изследователи започват да прогнозират.

Екипът се състои от старши изследователят на DeepMind Маркъс Хътър и учените от Оксфорд Майкъл Коен и Майкъл Осбърн. Изводите им са, че машините в крайна сметка ще бъдат стимулирани да нарушават правилата, определени от техните създатели, за да се състезават за ограничени ресурси или енергия.



При условията, които идентифицирахме, нашето заключение е много по-силно от това на всяка предишна публикация – екзистенциална катастрофа е не просто възможна, но доста вероятна„, заяви Коен.






В своята статия изследователите твърдят, че човечеството може да се сблъска с гибелта си под формата на свръхнапреднали „неправилно подредени агенти„, които възприемат човечеството като преграда по пътя им към „наградата“.

Един добър начин агентът да поддържа дългосрочен контрол върху възнаграждението си е да елиминира потенциалните заплахи и да използва цялата налична енергия, за да защити компютъра си„, пише в статията.

За съжаление изследователите твърдят, че не можем да направим много по въпроса.

В свят с безкрайни ресурси бих бил изключително несигурен какво ще се случи„, каза Коен в интервю за Motherboard. „В свят с ограничени ресурси има неизбежна конкуренция за тези ресурси.“

И това може да вещае черни дни за човечеството.

И ако сте в състезание с нещо, което може да ви надхитри на всяка крачка, тогава не трябва да очаквате да спечелите„, добави той.

В отговор на тази заплаха човечеството трябва внимателно и бавно да развива своите AI технологии.

Статията на учените е публикувана в AI Magazine.

Източник/ци: nixanbal.com, it.dir.bg

Коментари

Коментара

loading...







There is no ads to display, Please add some

Не бъди безразличен, сподели статията с твоите приятели:

Вашият коментар