Как принимает решения искусственный интелект

Как именно ИИ принимает решения? Учёные перестали это понимать

Выступающие на последней конференции Neural Information Processing Systems специалисты в сфере искусственного интеллекта обнародовали, что перестали понимать суть принятий решения, которыми руководствуется ИИ. Данный доклад ученых может дать старт паническим настроениям среди человечества и мыслям о восстании машин…

Забегая вперед, можно сказать, что данная конференция была посвящена так же и вопросам современного видео наблюдения.  В современной жизни системы видео наблюдения облегчают задачи по контролю над процессами в торговых точках, складских терминалах и пр. Сейчас затраты на установку системы настолько малы, что окупаются практически в первые месяцы работы. Да, но мы отвлеклись от темы, подробнее можно почитать тут,  продолжим…

Ученые считают, что принимать как должное действия Искусственного Интелекта без осознания его логики — весьма легкомысленно. Для того, чтобы человек принял модель машинного обучения, ему нужно понимать, чем конкретно руководствуется компьютер и решить, как следует поступать в той или иной конкретной ситуации.

Довольно часто решения, принятые ИИ, оказываются предвзятыми. Так же, его ассоциативное мышление зачастую получается не идеальным, результатом чего являются ошибочные аналогии машины. Конечно же, такие ошибки могут очень дорого обойтись, в случае если ИИ будет руководить сложными жизненно важными человечеству проектами, такими, к примеру, как полёт в космос. Здесь уже будет, что неправильный поступок искусственного интеллекта может повлечь и уничтожение оборудования и привести к гибели людей.

Соответственно, перед тем, как разрешить ИИ самостоятельно принимать важные решения, стоит сначала понять и досконально изучить те принципы, которыми он руководствуется.

На конференции специалистами был представлен доклад, в котором описывался процесс отслеживания действий каждой части так называемой «нейросети». Разбирая данные действия по частям, можно понять логику процесса, а затем, в необходимых случаях можно корректировать её.

Анализируя миллионы операций, она смогла выявить отдельные искусственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав ИИ более сговорчивым и правильным.

Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из доклада — поясняет Кири Вагстафф эксперт NASA.

Судя по результатам этого исследования, верно понять действия искусственного интеллекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно и не допустить развитие событий, как в известном фильме «Терминатор» .

 

Наши рекомендации:

  • Как именно ИИ принимает решения? Учёные перестали это пониматьБелорусская валютно-фондовая биржа запустила пилотный блокчейн-проект
  • Как именно ИИ принимает решения? Учёные перестали это пониматьРоссийский конвертоплан покажут в 2019 году
  • Как именно ИИ принимает решения? Учёные перестали это пониматьВ США откроют центр пересадки свиных сердец человеку