Профессор Мичиганского университета и по совместительству инженер компании Google Игорь Марков в недавнем интервью Venturebeat сравнил искусственный интеллект с чумой, которая в свое время уничтожила треть населения всей Европы и забрала тысячи жизней за ее пределами.
По мнению ученого, ИИ, как и чума, может нанести человечеству существенный вред, а люди так и не поймут, что происходит, и как с этим бороться. Более того – благодаря высокой обучаемости ИИ сложно будет даже предположить, откуда ждать последующих ударов.
Для того, чтобы избежать подобного развития событий Марков предложил физически ограничить программу, закрыв для ИИ доступ к наиболее важным объектам, таким, например, как электростанции. По мнению профессора, также не стоит обучать его ремонту и саморазвитию, что существенно снизит шансы на его выход из-под контроля и борьбу с ним.
Кроме того, следует «подружиться» с искусственным интеллектом, и таким образом создать дружественную программу, которая будет защищать людей от остальных вредоносных программ.
Также Марков упомянул труды сооснователя Университета сингулярности Рэя Курцвейла, который убежден, что уже к 2029 году ИИ сравняется с человеком по интеллекту, а, возможно и превзойдет его.
Тем не менее инженер Google признал, что на данный момент у него нет других оснований считать, что его прогноз будет правильным.
UAevent