Квартира в Вашингтоне

vr-режим

Кража и обман виртуального ассистента

Развитие нейросетей позволило человечеству переосмыслить вычислительную технику. Появились нейроморфные компьютеры (neuromorphic computing), имитирующие работу нервной системы человека. В них хранение и обработка данных ведутся одними и теми же элементами, а возможности компьютера определяется в первую очередь поданной на вход информацией. Существование таких компьютеров дало невиданные ранее возможности: каждый человек теперь может получить собственную цифровую сущность—персонального ассистента, который владеет всеми данными о человеке с самого его рождения. Эдакое второе цифровое «я». Такая сущность может принимать решения вместо ее владельца, потому что она делает это так же, как ее владелец, так что многие рутинные вопросы люди стали отдавать на откуп своим цифровым аватарам. Интересная особенность нейроморфного компьютера — в нем нельзя запустить malware. Обмануть его можно лишь двумя путями: 1) Похитить всю систему целиком (скопировать) и таким образом узнать о человеке (ее владельце) все. В том числе и то, как он поведет себя в той или иной ситуации. 2) Подсунуть аватару неправильный массив данных. Подробней о втором сценарии: Нейросеть, лежащая в основе цифровой сущности, при принятии решений опирается на массив данных, являющийся, по сути, прошлым человека. Если подменить часть массива данных, то нейросеть примет нетипичное для этого человека решение. То есть виртуальная сущность, которую, например, часто используют для проведения переговоров, может принять совсем не то решение, которое принял бы человек. Но, поскольку она считается полноправным представителем человека — ведь в какой-то мере она и является этим человеком, — то ее решение имеет ничуть не меньшую силу, чем решение ее владельца.
Читать
ОБРАТНО
К ПЛАНЕТЕ