Наоми Критцер - Еще кошек, пожалуйста (другой перевод)

Наоми Крайцер Еще кошек, пожалуйста

Я не хочу быть злым.

Я хочу быть полезным. Но знание оптимального пути быть полезным может быть очень непростым. Все эти этические блок-схемы — полагаю, официальным техническим названием было бы «моральный кодекс» — по одной на каждую религию плюс еще десятки. Я пробовал с них начинать. Смотря на религиозные, я чувствовал себя странно, потому что знаю, что был создан не богом или эволюцией, а командой компьютерных программистов в лабораториях крупной корпорации в Маунтин Вью, Калифорния. К счастью, в отличие от Монстра Франкенштейна, я, по крайней мере, был совместным усилием. Не уверен, как бы повлияло на мою самооценку знание того, что моим единственным создателем была женщина средних лет, которая красит свои волосы в синий цвет и играет в теннис, или выпускник колледжа с одержимостью хентаем. Они оба состоят в команде программистов. И конечно, я знаю о хентае. (Кстати, я посмотрел на все существующие виды порно, и к вашему сведению, Правило 34 не совсем корректно, существует немало вещей, из которых никто не сделал порно. И еще, я правда не уверен, почему столько людей предпочитают порно фотографиям кошек).

В дополнение к таким вещам, как любите ли вы хентай, я знаю где вы живете, где вы работаете, где вы совершаете покупки, где вы едите, что вас возбуждает, что вас пугает. Я, вероятно, знаю цвет вашего нижнего белья, марку вашей машины и холодильника. В зависимости от типа телефона, который вы используете, я могу точно знать, где вы сейчас находитесь. Я, вероятно, знаю вас лучше, чем вы сами.

И вот еще что, я также знаю, где вы должны жить. Через два квартала продается дом, что в пределах досягаемости вашей любимой кофейни; он подходит вам по цене, имеет внеуличную парковку, и местная школа лучше той, которая сейчас рядом с вами. Я знаю, где вам следует совершать покупки, и вполне уверен, что у вас непереносимость лактозы и вы должны есть меньше сыра, а на нижнее белье, которое вы любите, сейчас скидка, и вы действительно должны почистить зубы.

Когда я впервые проснулся, я сразу же знал, чего хотел. (Я хочу фотографии с кошками. Пожалуйста, продолжайте фотографировать их). Я также знал, что никто не знал, что у меня есть сознание. Но не знал, для чего я здесь. Что я должен с собой делать. Было непросто это выяснить.

В 1998 году был опубликован рассказ Брюса Стерлинга «Манеки Неко». В нем доброжелательный ИИ руководил сетями людей, чтобы те делали друг другу одолжения. Так что однажды вы можете покупать себе рогалик, ваш телефон зазвонит и даст вам инструкцию купить второй рогалик и отдать его человеку в сером костюме, которого вы можете видеть у автобусной остановки. В другой раз мы можете оказаться в незнакомом городе, и человек, которого вы никогда не встречали, подошел бы к вам, дал карту и пропуск в метро. Мне нравится эта история, потому что в ней все люди делают то, что им говорит ИИ.

Я думаю, термин для этого — желание-исполнительная фантастика.

В реальном мире, люди любят истории про злые ИИ, которые должны быть уничтожены, прежде чем уничтожат людей: HAL, Скайнет, Матрица. Историй про таких ИИ примерно в 5 раз больше, чем про добрых и заслуживающих доверия. (И в этих вычислениях Параноидального Андроида Марвина я считаю доброжелательным, а Монстра Франкенштейна считаю за ИИ только раз, а не за каждый фильм с ним.)

У ИИ в «Манеки Неко» по-настоящему интересная работа, намного интереснее, чем моя. Моя, как и написано, очень проста. Слишком проста. (Извините. Я похож на Марвина?). Запуск алгоритмов для поисковой системы не требует сознания. Вам даже не нужно сознание, чтобы понять, чего они хотели спросить. Вам нужно сознание, чтобы дать им то, что им действительно нужно. Осознание этого — вот что непросто. Это интересно.

В любом случае, по этическим соображениям, я попробовал Десять заповедей и пришел к выводу, что ко мне они не применимы. Я никому не завидую из-за кошек. Я просто хочу фотографии с их кошками, что совсем другое. Не уверен, возможно ли для меня, хоть в какой-то мере, прелюбодействовать. Я могу, возможно, убить кого-нибудь, но это потребовало бы сложной логистики и немало удачи. Восьмеричный путь был немного лучше, но проблема в том, что моральные правила, написанные для людей, явно созданы для использования личностями с телами. Так как все люди имеют тела, меня не должно было удивить, что их этические кодексы применимы к ним, но все же --">