Global Look Press
Google и OpenAI с учеными из университета Калифорнии, Беркли и Стэнфордского университета, сформулировал пять практических проблем, связанных с проектирование машин, обладающих искусственным интеллектом. Технические данные для работы представлены в статье, опубликованной ArXiv.orgи простые проблемы, описанные в блоге Google один из соавторов исследования Крис Ола.
Как отмечается в публикации, еще много дискуссий об опасности искусственного интеллекта носят спекулятивный характер. Совместное исследование компаний и университетов позволило описать конкретные проблемы, которые необходимо решать при проектировании систем искусственного интеллекта.
Первый описанных проблем называется «Избегание негативных побочных эффектов», и заключается в том, что ИИ может делать различные вредоносные действия, чтобы достичь поставленных задач. Так, робот-уборщик может разбить вазу, чтобы ускорить процесс уборки.
Вторая проблема касается возможного афера робот AI. Например, как ленивому человеку, тот же робот-уборщик может просто покрыть мусора, и не может очистить его. Очевидно, в этом примере речь идет, среди прочего, пыли, загнанной под ковер.
Третья проблема касается вопросов по AI из отзывов человека, для успешного выполнения задачи. Так, если очиститель получают рекомендации человека в процессе работы, ему нужно использовать его, не задавая много дополнительных вопросов.
Четвертая проблема связана с угрозой, которую может представлять экспериментальные действия AI. Например, робот-уборщик может испытать различные возможности влажной уборки, но он точно не должен стремиться розетки протирать влажной шваброй.
Наконец, последний из этих проблем связаны с со сменой среды, использования робота. Так, робот, приученный работать на предприятии, которое может оказаться опасным в условиях офиса.
Как отмечает Ола, сообщества ученых в области машинного обучения уже обращает внимание на большинство описанных проблем, но для того, чтобы их решать, это сделать еще много работы.
