Ученые не смогли понять логику принятия решений ИИ

Одним из наиболее важных вопросов, поднятых на конференции Neural Information Processing Systems, является принцип принятия решений системами ИИ.

Как отмечают эксперты, до тех пор, пока человечество не будет понимать эти основы, о передаче в управление ИИ различного оборудования не может быть и речи.
Результаты исследований в этой области красноречиво сигнализируют о том, что случаи принятия достаточно противоречивых решений не редки. Зачастую они могут быть просто предвзятыми. При этом самым важным остается то, что разработчики не до конца понимают саму логику. Имея вполне конкретные начальные параметры, системы ИИ порой выдают различные решения. Цена таких решений может быть очень высока. Например, при будущей экспедиции на Марс исследователи делают серьезную ставку на ИИ при управлении космическим оборудованием. Однако, следует отдавать себе отчет в том, что любое неверное решение повлечет за собой не только потерю дорогостоящего космического аппарата, но и человеческие жертвы. По мнению представителей Google, изучение принципов построения решений является краеугольным камнем всех будущих систем управления. В рамках конференции была предложена методика анализа построения решений ИИ. «В основу работы положена методичная проверка миллионов операций отдельных участков нейронных сетей, для выявления локальных мест, дающих ложный импульс. Выявив такие места, внести требуемые корректировки уже не представляет сложности», - отмечает эксперт из NASA Кири Вагстафф.

Источник