Некоторые ученые боятся, что компьютеры смогут развить самостоятельное «мышление» и начать преследовать цели, идущие вразрез с интересами человечества. Сохранит ли всемогущий искусственный интеллект будущего покорность, или «сорвется с цепи»? Поймет ли он цели и мотивы человека и будет ли на них ориентироваться? Хватит ли у него этики и здравого смысла, чтобы «понять», когда эти соображения должны преобладать над иными его мотивами? Если он сможет проникнуть в «интернет вещей», он сможет манипулировать остальным миром. Его цели могут не совпадать с желаниями человека, более того – он может расценить человечество как помеху. ИИ должен иметь «цель», но что действительно трудно ему привить, так это «здравый смысл». ИИ не должен одержимо добиваться своих целей и должен быть готов отказаться от своих усилий, если это ведет к нарушению этических норм.
Компьютеры будут массово наращивать потенциал и развивать свои математические умения, а, возможно, и творческие способности. Уже сейчас наши смартфоны используются как хранилище памяти для ежедневных дел и предоставляют практически мгновенный доступ к мировому информационному пространству. Вскоре и перевод с одного языка на другой станет привычной операцией. Следующим шагом – уже в 2050 году – может стать «подсоединение» дополнительной памяти или приобретение новых языковых навыков путем прямого подключения к мозгу человека – хотя пока не совсем ясны конкретные пути реализации этой идеи. Если мы сможет расширить возможности нашего мозга с помощью электронных имплантатов, мы вероятно сможем «залить» собственные мысли и воспоминания на компьютер. Таким образом, если текущие тренды сохранятся без изменений, некоторые из живущих ныне людей смогут достичь бессмертия - по крайней мере, в том смысле, что их мысли и воспоминания смогут иметь продолжительность жизни, не ограниченную бренной оболочкой их тел. Те, кто стремятся к такому виду вечной жизни, смогут, выражаясь языком спиритуалистов старого времени, «перейти в потусторонний мир». Вы найдете еще больше предсказаний в моей книге «О будущем: перспективы для человечества», откуда взят этот отрывок.
Delete comment?
