Сингулярность искусственный интеллект. Николай Аблязов

Здравствуйте, уважаемые читатели блога сайт. В разговорах с людьми мы иногда слышим редкое, непонятное большинству, слово «сингулярность» . Для придания значимости собственной персоне, человек вворачивает подобные словечки, но точно ответить, что оно означает, не в состоянии.

Дословный перевод с латыни найти несложно. Слово singularis означает особенный, единственный, указывает на уникальность какого-либо события, существа, явления. Кажется, куда проще, но тут начинаются непонятности.

Это понятие применимо в разных сферах жизни человека, науки, техники, философии. В каждой области оно объясняется специфично. Неискушенному гражданину кажется, что речь идет о совсем непохожих вещах. Нет согласия даже в понимании значения слова.

Значение слова

Словно специально, чтобы запутать все окончательно, ученые умы придумали несколько разновидностей сингулярности . Согласно википедии бывают:

Сингулярность понятным языком

Да, легче не стало! Вы растеряны и возмущены: «Что это, простыми словами объяснить нельзя?». Давайте попробуем. Возьмем для примера два упомянутых выше трактования и объясним все это максимально просто (на пальцах):

1. Гравитационная . Предположим, на дороге открытый люк. Дорожное покрытие – это пространство, кромка люка – горизонт событий (граница искривления пространства или более красиво — горизонт событий). Все, что происходит внутри ямы, вы не видите, но дыра образована сингулярным объектом.Вы бросаете в люк один камень, промахнулись – камень остался в нашем пространстве. Следующий – попали, он пролетел границу горизонта и попал в зону сингулярности (неопределенности);
2. Космологическая . Вообразите маленький мячик с нереально высокой температурой и плотностью. В какой-то момент он с огромной силой взрывается, образуя кучу осколков, частиц и пыли. Представьте все, что происходило с мячом в момент взрыва? Это называют состоянием сингулярности.

Два распространенных толкования этого явления способны описать его основные отличительные признаки:

Соответствие чего-то хотя бы одному из этих признаков говорит о том, что перед вами сингулярность.

Наиболее ярко по обоим признакам сингулярность иллюстрирует черная дыра . Считается, что в ее центре показатели всех физических характеристик бесконечны, законы физики не действуют, а время течет по неизвестным нам правилам. Поскольку предсказать поведение такого объекта невозможно, то и прогнозирование утрачивает всякий смысл.

Думаете, что все описанное далеко во времени, пространстве и нас не касается? Я покажу вам, что это не так.

Сингулярность в нашей жизни

Большинство процессов в обществе, экономике, истории, биологии происходит по условиям, предполагающим точку сингулярности в определенный момент времени. В основе развития этого явления лежит закон гиперболы. Прямо сейчас вокруг нас приближаются к своей развязке процессы, которые зарождались миллиарды лет назад.

Человечество и мировой продукт

Самый понятный пример – возрастание численности населения Земли и прирост мировых запасов продукта. Связи, обусловленные определенными условиями, строились тысячелетиями. Если сейчас оставить эти зависимости без изменения и продолжить их в будущее, очень скоро мы подойдем к точке сингулярности.

Количество людей на планете и мировой продукт были давно подсчитаны учеными. Еще два-три десятилетия назад стало понятно, что число людей увеличивается по квадратичной гиперболе, а производство продукции – по простой, то есть в 2 раза медленнее.

Прогнозы показывали, что в период с 2005 по 2020 год настанет время точки сингулярности. То есть сегодня мы внутри этого явления. Скажите, вы наблюдаете вокруг всеобъемлющее изобилие и богатство?

И снова технологическая сингулярность

Та самая точка, когда сложность развивающихся технологий будет недоступна человеческому пониманию, не за горами. Предположительно мы встретим ее с 2030 до 2045 года. Сценарий вероятных событий известен всем из фантастических фильмов.

Биологические революции

Сингулярность в биологии Земли дело привычное. происходила при гиперболическом росте популяции до какого-то момента. К примеру, динозавры были хозяевами планеты. Но после революционных событий их почти не осталось. Разве что крокодилы скромно занимают несущественную нишу.

Когда ученые мужи проанализировали периодичность дат революций, происходивших в биологии, а потом добавили к этой информации человеческие волнения, они заметили четкую связь с точкой сингулярности в районе 2010—2050 годов.

Сингулярность в истории

Это явление случалось довольно часто. Вспомните истории государств и империй. Скажем, Древний Рим в начале своего развития развивался по закону гиперболы.

Рост населения стал причиной захвата территорий, определил некоторое техническое развитие. Так продолжалось до нескольких эпидемий чумы, когда умерло до трети населения. После этого человечество задумалось о плотности жителей в одном месте.

Попытки восстановить количество людей позволили империи продержаться еще какое-то время. Но все равно государство по многим причинам распалось. Итак, алгоритм – резкий рост, нарушение равновесия, небольшие колебания, смена баланса ресурсов и гибель.

Похожие предопределенности были обнаружены в:

1. науке;
2. демографии;
3. экономике;
4. культуре и других областях человеческой жизни.

Выводы

В указанный исторический промежуток должно произойти что-то неимоверно важное, сравнимое с выходом живых организмов на сушу, что в корне изменит будущее.

Только не говорите, что все пропало и нам уготована участь крокодилов. Ведь и Рим не исчез бесследно. Да и мы отличаемся от динозавров. Мы можем думать, делать прогнозы, искать решения и адаптировать среду под свои потребности.

Главное, понимать что происходит и вовремя менять условия игры, чтобы не допускать необратимых процессов.

Потому что сингулярность – это точка с бесконечной плотностью, где нарушены все законы физики, а предположения о будущем неизвестны. В ней все теряет смысл. И осмысление происходящего тоже не имеет значения.

Удачи вам! До скорых встреч на страницах блога сайт

посмотреть еще ролики можно перейдя на

Вам может быть интересно

Что такое теория и чем хороши теоретические методы познания Аспект - использование в разговорной речи и научная трактовка Что такое закон Что такое отрезок Что такое нормативные правовые акты и какие бывают НПА Что такое легитимность простыми словами Что такое модели и моделирование - 5 этапов моделирования, когда и какие модели применяются

Мы часто слышим о том, что живем в век изменений и переломный момент «вот-вот наступит». Большое количество футурологов, конспирологов, прорицателей, астрологов и духовных учителей со всех сторон вещают о всевозможных фантастических сценариях апокалипсиса различной степени тяжести. Мы же расскажем о несколько необычном, однако, вполне реальном развитии событий. Знакомьтесь, - Технологическая сингулярность.

Что же это такое?

Технологическая сингулярность - это вероятное взрывное ускорение научно-технического прогресса, которое приведет к полному изменению общества, морали и самого человека (включая не только разум, но и тело). Суть – в процессе технического прогресса будет создан сверхчеловеческий разум, действия и дальнейшее развитие которого, сегодня, даже спрогнозировать невозможно. Также предполагается, что после наступления технологической сингулярности, будущее невозможно будет предположить в принципе.

По последним оценкам (Дэни Эдер*) Технологическая сингулярность может наступить уже до 2018 года. Возможности возникновения, а также возможные последствия технологической сингулярности возникшей в процессе развития нанотехнологий абсолютно серьезно рассматривались Комиссией по экономической политике Конгресса США еще в 2007 году.

*Имеется ввиду гиперэкспоненциальная кривая, основанная на факте удвоения мощности современных компьютеров всего за 9 месяцев к сентябрю 2002 года (прим. ред.)

Сингулярность Вернора Винджа

Концепция технологической сингулярности была впервые предложена математиком и писателем Вернором Винджем в 1993 году на симпозиуме VISION-21, который проводился Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо.

“Сингулярность- это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания, которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет большой неожиданностью и ещё большей неизвестностью.

Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами. Лучшая аналогия - в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет”.

Вернор Виндж

По мнению Винджа вышеописанные события могут произойти следующим образом:

1. Компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект.

2. Крупные компьютерные сети (и их объединенные пользователи) смогут «осознать себя» как сверхчеловечески разумные сущности.

3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.

4. Генная инженерия или другие технологии смогут радикально улучшить человека по всем параметрам: здоровье, сила, долголетие, интеллект.

5. Развитие технологий (например, с приставкой “нано”) сделает возможным быстрое воспроизводство мыслящих машин.

Реальные успехи

Для столь интересных выводов есть вполне реальные основания. Действительно, прогресс в области компьютеров весьма впечатляет. С 1949 года, когда была создана первая электронно-вычислительная машина (ЭВМ), производительность и оперативная память компьютеров выросли в несколько миллионов раз! При этом каждые 1,5-2 года производительность и память удваиваются.

В 1997 году компьютер ASCI Red фирмы Intel имел предельную (пиковую) производительность 1,8 триллионов операций в секунду (1,8 Тфлопс). В 2000 году появился компьютер на 10 терафлопс. А в 2010 году китайцы создали суперкомпьютер «Тяньхэ» на 2507 терафлопса (или более 2,5 квадриллиона операций в секунду). Суперкомпьютер, спроектирован в китайском национальном университете оборонных технологий. Составлен колосс из 7168 графических процессоров от Nvidia (модель Tesla) и 14 336 центральных процессоров от Intel (Xeon).

Что может суперкомпьютер сегодня?

Суперкомпьютер IBM «Watson» имеет 2880 процессорных ядер, 15Тб оперативной памяти. Производительность системы оценивается в 80 триллионов операций с плавающей запятой в секунду.

Он безошибочно и очень быстро дает правильные ответы на вопросы (в качестве теста использовалась игра «Jeopardy!»), изучает базу данных для поиска ответа, а также анализирует скрытые в вопросах значения, трудноуловимые ассоциации, загадки, иронию и множество других интонационных и лингвистических нюансов. То есть, практически приближается к возможностям человека.

Однако критики отвечают, что если данная машина хоть и превосходит человека по возможностям, возникающих в процессе использоваться огромной базой данных, то все равно испытывает серьезные трудности на ассоциативном уровне принятия решений.

Это, впрочем, не помешало уже применить полученные достижения на практике. Американская компания Neuromatters и Колумбийский университет в Нью-Йорке заключили соглашение по разработке технологии «связанной с корой компьютерного зрения». Данная технология сочетает сильные стороны компьютера и мозга человека для ускорения сортировки трудно формализуемых данных вроде фотографий или видео. При этом результат достигается быстрее, чем могли бы выполнить задачу компьютер или человек по отдельности.

Компьютер трудно научить понимать абстрактные цели типа «найти из длинной последовательности прикольные картинки» или «найти кадры, на которых что-то не так». Человек понимает такую задачу без труда, но ручная сортировка сотен и тысяч снимков утомительна, и занимает много времени. Однако нейрофизиологам уже известно, что оценка кадра в мозге происходит за доли секунды. Причём ещё задолго до того, сам как человек осознает «инсайт», определённые зоны в коре выдают характерный сигнал.

Этим и воспользовались разработчики проекта C3Vision. Оператор надевает «мозговую шапку» с 64 электродами, снимающими ЭЭГ. Компьютер показывает человеку последовательность снимков со скоростью 10 кадров в секунду. По реакции мозга машина понимает, что привлекло внимание оператора, а затем уточняет «гипотезу», подбирая для проверки ряд схожих кадров. Программа на ходу обучается взаимодействию.

Ожидается, что система C3Vision будет использоваться правительственными аналитиками для быстрой сортировки тысяч спутниковых снимков, а также операторами систем видеонаблюдения для выявления подозрительных кадров из большого потока.

Таким образом, суперкомпьютеры уже сегодня становятся мощными усилителями интеллекта соответствующим образом улучшенного человека. Однако, скорее всего, люди недалекого будущего станут своеобразными киборгами с возможностью легкого подключения к электронным помощникам. Причем передавать можно будет не только информацию, но даже чувства!

Первые киборги

В начале 2000-х, профессор кибернетики университета Рединга (Великобритания) Кевин Уорвик поставил смелый эксперимент – ему в левое запястье был вживлен чип площадью 9 мм2. Чудо микроэлектроники на этот раз было соединено сотней микроконтактов непосредственно со срединным нервом. Другими словами, каждый из этой сотни электродов был вживлен в человеческий нерв. Выводы этих контактов проложили под кожей и через 15 см вывели в предплечье, где располагается специальный радиоприемник-передатчик электрических импульсов.

Теперь первый киборг планеты Кевин Уорвик, заполняет эфир вокруг себя оцифрованными электрическими флюидами своей собственной нервной системы. Это позволяет ему мысленно включать и выключать автоматическую дверь, активировать бытовые приборы, «общаться» с компьютером и, главное, передавать эмоции!

Однажды, Уорвик, страдающий акрофобией (страх высоты), поднялся на крышу небоскреба. Импульсы страха, пробегавшие по нервам, попали в микрочип. Преобразовавшись в цифровую форму, эмоция страха была передана по Интернету в Англию, а затем поступила в чип, вживленный в тело жены Уорвика. Она испытала сильнейший страх!

Подобная технология здорово поможет инвалидам. Например, в декабре 2009 года группа европейских ученых объявила, что они успешно соединили роботизированную руку с покалеченной рукой человека. Это позволило ему управлять протезом силой мысли и чувствовать различные импульсы в искусственной руке.

Роботы

Резкую тенденцию к «поумнению» проявляют и роботы. Ярчайший пример – гонки роботов-автомобилей, которые организовывает Управлением перспективного планирования оборонных научно-исследовательских работ США (Defense Advanced Research Projects Agency, DARPA).

Данные автомобили испытывают в условиях, близких к городским, с имитацией реального трафика. Интересно, что уже в 2007 году с задачей проехать заданный маршрут без инцидентов справился робот с не особо мощными компьютерами в количестве двух штук с четырехъядерными процессорами Intel Core 2 Quad Q6600 с тактовой частотой 2,4 ГГц и платой Intel D975XBX2 и 2 Гбайтами оперативной памяти. Один из компьютеров отвечал за обработку информации, поступавшей от датчиков, второй - «занимался» контролем системы управления и планированием действий машины-робота. Информацию снимали шесть видеокамер, которые охватывают все пространство вокруг автомобиля, лазеры на бамперах, радар, приемники GPS, а также бортовое навигационное оборудование для сбора информации о местоположении автомобиля и характере поведения окружающих объектов.

В 2009 году компания Robosoft представила уже серийный автобус-робот robuRIDE, предназначенный для переправки пассажиров между несколькими пунктами в более-менее спокойной дорожной обстановке, то есть на выставках или в парках. А в 2010 году группа итальянцев пересекла на автобусах-роботах Евразию из Пармы в Шанхай. И хотя, во многих экстремальных ситуациях, водители брали управление на себя, до умного автомобиля, способного доставить своего, скажем пьяного или заснувшего владельца до дома осталось не так уж и долго.

Убить всех человеков!

Несмотря на то, что, по мнению футурологов, предсказать, что будет после наступления технологической сингулярности, невозможно, искушение “заглянуть за грань” слишком велико. Конечно, неизвестное пугает. Одним из первых испугался сам Вендж, обозвав сингулярность – “катастрофическими изменениями”.

“Если Сингулярность нельзя предотвратить или ограничить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание человеческой расы - одно из возможных следствий.” Вернор Виндж

Впрочем, мнение, что разумным машинам будет трудно сосуществовать с людьми, появилось задолго до Венжа. Классикой стали мир “Терминатора”, плавно переходящий в мир “Матрицы”, где роботы победили окончательно и бесповоротно, несмотря на усилия всех Джонов Конноров и Нео вмести взятых. Менее жесткий, но тоже не слишком оптимистический вариант жизни в мире “постсингулярности” рисуют многочисленные сторонники движения “кибер-панка”, которое началась еще в 1983 году с короткого рассказа (кто бы мог подумать!) “Киберпанк” Брюса Бетке и романа “Нейроманта” Вильяма Гибсона. Интересно, что задолго до появления термина “технологическая сингулярность”, там были описаны такие важные элементы “мрачного будущего”, как непосредственное подключение к компьютеру и сети через мозг, имплантанты, искусственный сверхинтеллект и, главное, виртуальная реальность.

Реальная виртуальность

Переход человечества в виртуальную реальность – вполне вероятное развитие событий после наступления сингулярности. И действительно, если всю или почти всю работу будут выполнять умные автоматы, людям нужно будет элементарно чем-то себя занять. Возможный выход – игровая среда, где можно будет не только развлекаться, но и жить, зарабатывая реальные средства, обеспечивающие жизнедеятельность бренного тела. А выходить “на поверхность” игроки будут только для оправления естественных потребностей. Подобный вариант может оказаться очень привлекательным в случае исчерпания природных ресурсов, которым нас постоянно запугивают по телевидению и в Internet. Действительно, зачем покупать реальный суперкар или самолет, если его виртуальный аналог будет ничуть не хуже. И ценные ресурсы не потребляются.

Собственно говоря, игровая виртуальная реальность развивается прямо на наших глазах. Вспомним, как в середине 90-х верхом совершенства нам казалась мегакультовая стрелялка DOOM-2 с примитивной графикой. Нынешние игры уже обеспечивают почти фотореалистичную картинку. Не трудно предположить, что пройдет еше лет 5-10 и она станет “почти неотличимой от настоящей”. Добавим сюда развитие социальных сетей и ролевых игр и останется только доработать уже реально действующие технологии передачи чувств и ощущений по проводам, управление игровыми объектами при помощи нервных импульсов. Затем надеваем виртуальный шлем или костюм, вставляем разъем в затылок и … добро пожаловать в “Матрицу”.

А почему бы и нет? Ведь уже сейчас существует многомиллионая армия геймеров, которые с успехом зарабатывают настоящие, а не виртуальные деньги, продавая нарисованные мечи, доспехи и гаремы с принцессами. Не так давно мой знакомый обменял “магического имущества”, нажитого “непосильным трудом” на 10 тыс. вполне реальных портретов американских президентов. А в Южной Корее, например, при разводе и разделе имущества супругами, законодательно учитываются не только реальные, но и виртуальные ценности.

Альтернатива “мрачному будущему”

Известный публицист и писатель Александр Никонов, вместе с футурологом Александром Жаровым настроены оптимистично. “Возможно, на каком-то этапе будет существовать симбиотическая связь между человеком биологическим (правда генетически модифицированным) и искусственным сетевым интеллектом. Такая же связь существует между человеком и микрофлорой в его кишечнике. Люди не могут жить без микрофлоры, микрофлора не может жить без людей. Но кто главный – микробы или человек?

В новом симбиозе главными будут точно не люди. Значит ли это, что машины победят людей и поставят их на службу? Нет. Искусственный интеллект будет контролировать человечество не больше, чем вы контролируете свои бактерии в кишечнике. Умный человек позаботится о своем здоровье. Планетарный мозг будет заботиться о своих “микроорганизмах” – людях (что не может не радовать, ибо многие “микроорганизмы” на сегодняшний день не в состоянии о себе позаботиться – прим. авт.). А мы будем заботиться о НЕМ.”

Реалистичный взгляд

Если отрешиться от лишних эмоций, то не трудно прийти к выводу, что никаких драматических и масштабных изменений в ближайшем времени не случится. Явной фантастикой с элементом паранойи видится самопроизвольное обретение компьютерами или сетью компьютеров разума. Нанотехнология и генная инженерия также еще не достигли таких высот (и в ожидаемом будущем явно не достигнут), чтобы превратить человека в сверхразумного почти бессмертного суперкиборга. Скорее всего, прогресс пойдет по пути расширения возможностей человека при помощи недорогих и компактных суперкомпьютеров.

Вероятнее всего, также следует ожидать массового внедрения чипов для более удобного мысленного управления компьютерами, которые в свою очередь повысят свою мощность настолько, что сразу же сделает не нужным множество профессий. Например, каждый сможет поставить себе квалифицированных диагноз, не посещая врача. Ведь, к услугам любого пользователя будет все медицинские знания мира и собственная диагностическая система. При этом, вживленные под кожу или в мышцы чипы смогут оперативно контролировать состояние организма, делая, например, мгновенный анализ крови.

Полиция также станет крайне не многочисленной, поскольку совершение преступлений с внутренним доносчиком превратится в некую форму мазохизма. Скорее всего, такой мир действительно потребует новой морали, ибо спрятать, или сохранить в тайне что-то либо будет практически невозможно.

Для современного человека это будет действительно катастрофой. Ибо существовать в таком мире ему будет не то, что некомфортно, а просто невозможно. Современного человека в таком мире быстро разорвут внутренние конфликты между записанными в процессе воспитания программами (т.е. тем как «принято», «правильно», «допустимо») и тем, как есть на самом деле. Однако вряд ли все произойдет мгновенно. Наверняка мы еще, как всегда, успеем привыкнуть.

Конечно, в таком будущем кроется просто поразительно число достоинств и преимуществ. Только представьте, наконец всем людям планеты удасться объединить усилия, постоянно чувствовать друг друга, ничего не скрывать. Это будет мир всеобщего понимания, в котором обману и насилию просто не останется места. Человечество превратиться в единый, практически бессмертный сверхорганизм с возможностями, о которых мы сегодня даже мечтать не смеем.

Существуют также и недостатки. Однако как преимущества, так и недостатки нашего уже недалекого будущего мы можем оценивать только со своей сегодняшней позиции. А это похоже на австралопитека, проживающего на нашей планете около 4 млн. лет назад, который пытается оценить значение, например изобретение теории ядерного распада. Компетенция такой оценки стремится к нулю.

Исходя из всего этого, думается, бояться будущего не стоит. Ведь оно зависит от нас сегодня. Предпосылки создаваемые нами сегодня, обретут силу уже завтра. Противостояние добра и зла - это не некий единоразовый процесс, который предстоит нам в будущем. Эта борьба происходит прямо сейчас и соотношение сил меняется ежесекундно, в зависимости от решения, которое лично вы только что приняли.

Думаю, многие, читающие эти строчки, на сегодняшний день видят, что прогресс с каждым днем ускоряется. Еще в начале XX века многие не верили в самолеты и думали, что «завтра будет сегодня». Эта тенденция в обществе была всегда и наблюдается сейчас. Завтра будет сегодня. В принципе, это простое эмпирическое наблюдение, однако если сравнить то, что было год назад, и что есть сегодня, становится виден этот прогресс. Если бы наблюдатель провел такое наблюдение в начале XIX века, очевидный прогресс он вряд ли бы увидел, разве что попал бы в переломный момент. Сейчас же различные научные достижения, мелкие и большие, происходят каждый день. Интернет стал катализатором этого процесса. Свободный обмен информацией объединил ученых со всего мира и лишил одной из главных проблем - повторного изобретения, чем часто страдал прошлый век. Конечно, сейчас данная проблема наверняка сохраняется из-за секретности некоторых государственных программ, однако такие проекты - это капля в море тысяч энтузиастов. Разумеется, сейчас наблюдаются не лучшие тенденции государственного контроля, но я, пожалуй, буду обсуждать в макромасштабе и не буду разбирать такие детали.

Уже вот 49 лет как выполняется закон Мура, а Intel готовит нам новые техпроцессы и новые подходы. Разрабатываются параллельно квантовые компьютеры, ДНК-компьютеры, нейронные сети… Все это произошло буквально за 30 лет.

Все неизбежно указывает на дальнейшее ускорение прогресса и движение к некой точке - технологической сингулярности.

Теория

Если немного подумать, то можно сделать простой вывод: Если мы хотим и дальше совершенствовать существующие технологии и создавать новые фантастические, то мы должны преодолеть границы нашего сознания. Что я имею в виду, говоря это? Я имею в виду, что человечество скоро упрется в некий тупик своих мыслительных способностей и, вероятно, будет погружено в многолетний застой и даже «второе средневековье». Для того, чтобы этого избежать и продолжать этот быстрый рост, люди должны что-то предпринять для повышения потенциала своего интеллекта. Это я и опишу ниже.

На данный момент четко видятся три ветви науки, которые могут привести человечество к сингулярности:

1. Информационные технологии.
2. Нанотехнологии.
3. Биотехнологии.

Информационные технологии

Информационные технологии (в кооперации с другими) могут дать нам два главных продукта: Сильный ИИ или (и) Интерфейс Человек-Компьютер. Примерной датой революции может стать названный выше 2030 год.

ИИ

Польза

Вред и риски

Интерфейс Человек-Компьютер

Польза

Вред и риски

Нанотехнологии

Машины фон Неймана

Польза

Помимо медицинского применения, у нанотеха есть огромный потенциал в строительстве огромных астроинженерных сооружений космического лифта или даже сферы Дайсона. Помимо астроинженерных сооружений, должен быть решен вопрос постройки огромных небоскребов из композитных наноматериалов. Этим может быть решен вопрос перенаселения и многоуровневых ферм и полей.

Вред и риски

Биотехнологии

Физическое бессмертие

Помимо вопросов этики, в обсуждениях про бессмертие часто поднимается вопрос перенаселения. Лично я считаю, что люди, утверждающие, что после достижения бессмертия население резко пойдет вверх - сильно заблуждаются. Достаточно просто посмотреть статистику и посмотреть в животный мир. В странах с низким уровнем жизни высокая рождаемость, а в развитых странах типа Австралии, Германии, Исландии, Финляндии и других виден абсолютный контроль над уровнем населения. В животном мире наблюдаются точно такие же тенденции. Например, различные насекомые живут день, но рождаются каждый день миллиардами по всему миру, а долгоживущие существа имеет потомство максимум из двух-трех особей.

Ноотропы

Может производить в уме сложнейшие математические вычисления, оперируя с числами, состоящими из более ста знаков. Также он доказал, что за неделю может выучить совершенно незнакомый ему язык (на примере исландского языка).

Таким образом, разработка ноотропов, способных открыть эти разделы мозга, выведет интеллект на новый уровень и сопроводит новыми рисками. По сути, это биологический интерфейс человек-компьютер, а поэтому на него действуют все те же опасности, в частности, уже упомянутая фрагментация общества.

Вывод

Эту статью я задумал как статью, которая должна что-то переменить в сознании людей. Я хочу, чтобы мы все поняли, что живем в очень интересное и замечательное время, думаю, что именно нашему поколению предстоит либо погрузиться во тьму, либо вырваться в фантастическое будущее фантастических технологий.

P.S. Думаю, что комментариях найдутся к моей статье замечания и вопросы, готов оперативно их выслушать и поправить недочеты:)
Спасибо пользователю

Техника вошла в нашу жизнь очень давно, и важность её несомненна. Изучением феномена техники занимались многие философы, занимаются и сейчас. Мартин Хайдеггер, размышляя о современных феноменах, в частности, о феномене техники, рассматривал явления, которые не происходят сейчас. Он рассматривал возможные явления, в перспективе. Существующее положение дел Хайдеггер оценивает негативно. Анализируя технику, он показывает, что трактовка её и как нейтрального феномена, и как средства деятельности, закрывает нам возможность понять сущность техники, скрывает возможность сознательно воздействовать на неё. Хайдеггер говорит, что «худшим образом мы отдаемся во власть техники тогда, когда рассматриваем ее как нечто нейтральное; ведь такое представление о технике, ныне особенно распространенное, делает нас совершенно слепыми в отношении сущности техники». Он вводит трактовку техники как «постава» (всякая техника рассматривается как функциональный элемент поставляющего производства), показывая затем, что человек и природа сами превращаются в постав и тем самым блокирует привычное для нас убеждение, что человек стоит над техникой и природой и что техника не влияет на природу.

Негативную оценку техники Хайдеггер выражает в следующих словах: «Опасна не техника сама по себе. Нет никакого демонизма техники; но есть тайна ее существа. Существо техники как миссия раскрытия потаенности - это риск. Измененное нами значение слова “постав”, возможно, сделается нам немного ближе, если мы подумаем теперь о поставе в смысле посланности и опасности». Хайдеггер стремится показать, что техника не является чем-то внешним к бытию, а совпадает с ним. Поэтому для того, чтобы повлиять на технику в нужном направлении, нужно менять и само бытиё: «Если существо техники, постав как риск, посланный бытием есть само бытие, то технику никогда не удастся взять под контроль просто волевым усилием, будь оно позитивное и негативное. Техника, чье существо есть само бытие, никогда не даст человеку преодолеть себя. Это означало бы, что человек стал господином жизни» . Но тут же утверждает, что и без сознательных усилий человека техника не может измениться. Можно сказать, что необходимым условием осмысленного воздействия на технику является, по Хайдеггеру, работа человека над собой: человек должен вспомнить и понять свои высшие ценности, чтобы подчинить им ценности не столь высокие: комфорта, власти над природой и т.п.

Проблема, поднятая Хайдеггером, очень сложна. Её нельзя решить только техническими методами. Проблема сосуществования человека и техники волнующа и сейчас. Есть немало работ, вышедших в свет относительно недавно, затрагивающих эту тематику. Анализу одной из таких статей, перекликающейся с основными идеями Хайдеггера, изложенными выше, посвящён данный реферат.

В 1993 году на симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо, была представлена статья «Грядущая технологическая сингулярность: как выжить в пост-человеческую эру» (The Coming Technological Singularity: How to Survive in the Post-Human Era) . Автором доклада был математик и писатель Вернор Виндж (Vernor Vinge). В 2003 году автор дополнил эту статью некоторыми комментариями. Статья была написана более десяти лет назад, но актуальна до сих пор. Те комментарии, которые внёс автор спустя десять лет после первоначального написания, лишь дополняют первоначальную статью.

Основываясь на переводе этой статьи с комментариями и на некоторых других источниках, в этом реферате я хотел бы уделить внимание следующим вопросам: что такое «технологическая сингулярность», как она может повлиять на человечество, как человечество может повлиять на неё, имеет ли смысл уделять ей какое-либо внимание, относиться к ней как к религии или как к научной (псевдо-научной) теории.

Что такое Сингулярность?

Термин сингулярность (лат. singularis – отдельный, особый) заимствован у астрофизиков, которые используют его при описании космических черных дыр и, в некоторых теориях, начала вселенной – точки с бесконечно большими массой и температурой и нулевым объемом. Математически сингулярность ­– точка функции, значение функции в которой стремится к бесконечности, либо другие подобные "интересные" точки. Какое же отношение может иметь понятие сингулярности к технологии?

Одной из особенностей XX века является ускорение технического прогресса. Человечество стоит на грани перемен, которые сравнимы с появлением разумного человека на земле. Главная причина этих перемен в том, что совершенствование и развитие техники приводит к тому, что техника становится всё более изощрённой и «умной». Всё это ведёт к созданию сущности с интеллектом, превышающим человеческий. Видится несколько путей, по которым наука может достичь такого прорыва:

1. Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).

2. Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.

3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.

4. Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения. Четвёртая возможность также зависит от этого, хотя и косвенно. Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Исходя из этой тенденции, автор статьи делает выводы, что интеллект, превосходящий человеческий, появится в течение ближайших тридцати лет. На этот счёт, конечно же, можно легко найти остроумную критику. Чарльз Плат, например, заметил, что энтузиасты искусственного интеллекта делают подобные утверждения уже как раз лет тридцать. Поэтому Виндж указывает более строгие временные рамки: это должно случиться между 2005 и 2030 годами. Заявление это было сделано ещё в 1993 году, а в 2004 автор, дополняя свою статью комментариями, подтвердил свою уверенность в этих сроках. Полагаю, что одним из признаков, использующихся для получения этой даты, был закон Мура, гласящий: количество транзисторов на новых кристаллах микропроцессоров удваивается каждые полтора года. Как раз между 2015–2030 годами вычислительная мощность компьютеров сравняется с мощью человеческого мозга, оцениваемой в 10 16 операций в секунду (а затем превзойдёт её) . Кроме того, далее по тексту статьи Вернон Виндж ссылается на некие кривые роста производительности. Похоже, что они имею гиперболический вид, а особая точка как раз приходится на указанный период.

Возникает вопрос: каковы будут последствия научного прорыва и появления сверхчеловеческого разума? Автор статьи даёт свой ответ на этот вопрос. Прогресс, направляемый интеллектом, превосходящим человеческий, станет значительно более стремительным. Нет оснований полагать, что прогресс не станет плодить всё более разумные сущности ускоряющимися темпами. Лучшая аналогия, которую можно здесь провести – наше эволюционное прошлое. Животные могут приспособиться и проявлять изобретательность, но скорость эволюции ограничена естественным отбором. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели с более высокими скоростями, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Событие это девальвирует весь свод человеческих законов за ненадобностью. Возможно, это произойдёт очень быстро. Изменения будут развиваться по экспоненте без всякой надежды на восстановление контроля над ситуацией. Это событие Виндж назвал Сингулярностью (именно так, с большой буквы). «Это точка, в которой наши старые модели придётся отбросить, воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью». (Здесь и далее, если не указано обратное, источником цитаты является рассматриваемая статья.)

Великий учёный в области вычислительной техники Джон фон Нейман вел однажды беседу со Стэном Юламом «…о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться»

В середине двадцатого столетия, в шестидесятые годы, Ирвинг Джон Гуд писал: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится»

Чтобы далее не спекулировать на тему искусственного интеллекта, бросаясь голословными утверждениями, необходимо сделать небольшой экскурс в проблему изучения искусственного интеллекта, а главное, проблему определения искусственного интеллекта.

Что такое искусственный интеллект

Для ответа на вопрос «Что такое искусственный интеллект», я обратился к введению к монографии Петрунина Ю.Ю. «От тайного знания к нейрокомпьютеру: Очерки по истории искусственного интеллекта». В ней представлен на редкость полный и объективный взгляд на проблему реализуемости искусственного интеллекта.

По поводу искусственного интеллекта в кругу специалистов по данному вопросу постоянно возникают споры при любом удобном случае. Главный вопрос, который при этом возникает: возможен ли искусственный интеллект? Можно ли научить машину думать? Верите ли Вы в возможность создания искусственного интеллекта? Во всех этих вопросах употребляется модальность верования, из чего можно заключить, что вопрос об искусственном интеллекте выходит за рамки научного. Патрик Уинстон, один из крупнейших авторитетов в этой области, сказал: «Относительно разума вычислительных машин… имеется много ходячих мифов» . Можно сказать, что сам термин «искусственный интеллект» означает миф, который широко проник в современное обыденное и научное сознание. В данном случае миф подразумевается не как ложность некоего представления, а как то, что это представление не может быть проверено эмпирически и рационально обосновано.

Для эмпирической проверки необходимо чёткое представление о том, что именно проверять, т.е. чёткое представление о том, что такое искусственный интеллект. Но по этому поводу А. Эндрю замечает: «По существу, последний так и не получил достаточно удовлетворительного определения. Поэтому, … в конечном счёте, нам придётся вернуться к нашему интуитивному представлению об интеллекте» .

Реферативный журнал «Abstracts in Artificial intelligence» (The Turing institute, ed. J. Ritchie) вводит следующее разделение искусственного интеллекта на проблемы:

1. Экспертные системы

2. Применение искусственного интеллекта

3. Автоматическое программирование

4. Автоматическое доказательство теорем

5. Логическое программирование

6. Обучение

7. Естественный язык

8. Поиск

9. Управление и планирование

10. Робототехника

11. Зрение и обработка изображений

12. Распознавание образов

13. Когнитивное моделирование

14. Взаимодействие человека и ЭВМ

15. Технические средства для искусственного интеллекта

Список достаточно внушительный. Задачи очень разные. Что же их объединяет?

«Если бы физики или химики взялись дать абстрактные определения своих областей знания, – подчёркивает Э. Хант, ­– то скорее всего не нашли бы разногласий ни среди тех, ни среди других. Вряд ли бы обнаружилось такое единодушие, если бы пришлось собрать вместе разных учёных, занимающихся искусственным интеллектом» .

Существует немало определений искусственного интеллекта. Но они все настолько различны, что кажется, будто речь идёт о разных вещах. Так, одни считают, что интеллект – это умение решать сложные задачи, другие – способность к обучению, третьи – возможность взаимодействия с внешним миром путём обобщения восприятия. Есть учёные, которые развивают теоретическую модель, в которой за осуществление интеллектуальной деятельности отвечает около 120 факторов. Из них только 50–60 известны сегодня .

Одним из кажущихся выходов из сложившейся ситуации является обращение к естественному интеллекту как к эталону. Можно было бы сказать, что машина обладает интеллектом, если то задание, которое она выполняет, потребовало бы от человека, будь человек на месте машины, интеллектуальных усилий. Хорошее утверждение? К сожалению, проверяя его, легко прийти к абсурду: при выполнении арифметических действий человек использует свой интеллект – это ни у кого не вызывает сомнений, но утверждение, что обыкновенный калькулятор обладает интеллектом не примет никто.

В 1950 году британский математик и специалист в области вычислительной техники Алан Тьюринг предложил тест, который позволяет определить, является ли испытуемое нечто думающим или нет. Суть теста состоит в следующем. Судья (человек) переписывается на естественном языке с двумя собеседниками, один из которых – человек, другой – компьютер. Если судья не может надёжно определить, кто есть кто, компьютер прошёл тест. Предполагается, что каждый из собеседников стремится, чтобы человеком признали его. Для того чтобы сделать тест простым и универсальным, переписка сводится к обмену текстовыми сообщениями. Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения исходя из скорости ответов. Это связано с тем, что во времена Тьюринга компьютеры реагировали медленнее человека. Сейчас это правило необходимо, потому что они реагируют гораздо быстрее, чем человек. Тест был инспирирован салонной игрой, в ходе которой гости пытались угадать пол человека, находящегося в другой комнате, путём написания вопросов и чтения ответов. В оригинальной формулировке Тьюринга, человек должен был притворяться человеком противоположного пола, а тест длился 5 минут. Сейчас эти правила не считаются необходимыми и не входят в спецификацию теста.

В 1964 году крупным американским кибернетиком Дж. Вейценбаумом была создана программа «Элиза» (ELIZA), имитирующая поведение психиатра. Пациенты, с которыми беседовала эта программа, в большинстве случаев были уверены, что общаются с врачом. Тем не менее, успех этой программы никого не может заставить считать её искусственным интеллектом. Не были выполнены серьёзные условия прохождения теста – испытатели не были поставлены в известность, что они сейчас проводят испытание.

Пока что ни одна программа и близко не подошла к прохождению теста. Такие программы, как «Элиза», иногда заставляли людей верить, что они говорят с человеком, как, например, в неформальном эксперименте, названном AOLiza. Но такие «успехи» не являются прохождением теста Тьюринга. Во-первых, человек в таких беседах не имел никаких оснований считать, что он говорит с программой, в то время как в настоящем тесте Тьюринга человек активно пытается определить, с кем он беседует. Во-вторых, документированные случаи обычно относятся к таким чатам, как IRC, где многие беседы отрывочны и бессмысленны. В-третьих, многие пользователи IRC используют английский как второй или третий язык, и бессмысленный ответ программы, вероятно, спишется ими на языковый барьер. В-четвертых, многие пользователи ничего не знают об Элизе и ей подобных программах и не могут распознать совершенно нечеловеческие ошибки, которые эти программы допускают.

Против теста Тьюринга было выдвинуто несколько возражений:

1. Машина, прошедшая тест, может не быть разумной, а следовать какому-то хитрому набору правил. (Распространённое контрвозражение: откуда мы знаем, что человек не следует какому-то хитрому набору правил?)

2. Машина может быть разумной и не умея разговаривать, как человек

3. Некоторые вполне разумные люди провалят этот тест (например, маленькие дети или неграмотные)

4. Если тест Тьюринга и проверяет наличие разума, то он не проверяет сознание (consciousness) и свободу воли (intentionality), тем самым не улавливая важных различий между разумными людьми и разумными машинами.

Ежегодно производится соревнование между разговаривающими программами, и наиболее человекоподобной, по мнению судей, присуждается приз Лебнера (Loebner). Есть дополнительный приз для программы, которая, по мнению судей, пройдёт тест Тьюринга. Этот приз ещё не присуждался.

Но это ещё не всё, ситуация запутана ещё сильнее. Если компьютер будет в состоянии читать какой-либо текст и делать краткий обзор его, будет ли эта машина считаться разумной? Так может спросить учёный, занимающийся искусственным интеллектом, у критика. И критик, скорее всего, ответит с уверенностью положительно. Но если ему показать такую программу, а затем, на свою беду, позволить посмотреть на её текст, на то, как она работает, да и вообще, дать разобраться в ней как следует, то программе в интеллектуальности будет отказано. По этому поводу очень хорошо сказал П. Уинстон: «Быть интеллектуальным – значит быть загадочным. Как он [Он – это некий безличный субъект, проявивший смекалку] мог до этого дойти? – спрашиваем мы. До тех пор, пока происхождение идеи остаётся неясным, она выглядит как откровение, но как только на поверхность выходит её объяснение, мы удивляемся: “Как это я об этом не подумал, ведь это так очевидно!” Когда процесс окажется разделённым на части, изученным и понятным, похоже, что интеллект исчезает».

Понятие интеллекта кажется неуловимым. «На самом деле, дать определение, – резюмирует свои соображения П. Уинстон, – в обычном смысле этого слова, по-видимому, невозможно». А Мичи и Джонсон замечают весьма остроумно: «За неимением более точного определения машинного интеллекта его можно охарактеризовать словами: “Точного определения я дать не могу, но всегда смогу узнать, когда увижу”». Мне это определение кажется наиболее симпатичным, хотя и несколько комичным. Похоже, что ничего более чёткого и ясного всё равно не предвидится. А для данного реферата определение это подходит, на мой взгляд, очень хорошо.

В заключение этого небольшого экскурса в проблему искусственного интеллекта, хочу отметить, что слова «искусственный интеллект», «механический мозг», «машинный разум» употребляются сейчас очень часто, из-за этого мы не замечаем парадоксальность этих словосочетаний. Действительно, слово «машинный» означает нечто механическое, бессознательное, непроизвольное, строго повторяющееся. «Интеллект» означает нечто оригинальное, творческое, неформализуемое, непредвидимое, неподчиняющееся никаким правилам. Получается, что в одном словосочетании слились два противоположных по смыслу понятия. «Холодное пламя», «тёмный свет» – вот примеры подобных словосочетаний. Их обычно можно встретить в поэзии, художественной литературе. Как вообще может быть осмысленным определение «искусственный интеллект», если оно, по сути, есть contradicto in adjecto (противоречие в определении)? Но развивать эту тему мы уже не будем.

Симптомы Сингулярности

Итак, в 60-е – 80-е годы двадцатого столетия осознание того, что грядёт какой-то катаклизм, росло. Вероятно, первыми почувствовали его влияние писатели фантасты. Ведь именно научной фантастике полагается предсказывать, чем обернётся та или иная технология в будущем. Если ранее воображение легко переносило на миллионы, миллиарды лет вперёд (например, «Машина времени» Герберта Уэллса), то теперь наибольшее количество прогнозов относится к ближайшему завтра. Неизвестному завтра! Писатели изобрели множество уловок для того, чтобы не связываться с разумными машинами в своём сюжете. Так или иначе их делают неопасными. Для меня наиболее обескураживающим ходом было наделение машин солипсизмом в том смысле, что они не верят в реальность окружающего мира, в события, происходящие с ними, поэтому легко подчиняются человеку.

Машинный разум до сих пор не создан. Критики машинного разума часто заявляют, что искусственным интеллектом занимаются уже очень давно, а он так и не получен. Но, вероятно, уж такова природа человека, что он любит забывать, что же он хотел получить изначально. Так, многие задачи, которые относятся к искусственному интеллекту так или иначе уже решены. Например, задача распознавания образов давно уже вышла из области чисто научных исследований. Существует несколько коммерческих продуктов, занимающихся распознаванием печатного текста (ABBYY FineReader), рукописного текста (Paragon PenReader). Эти продукты с первоначально поставленными задачами вполне справляются. Только вот люди хотят от них всё большего и большего. Хотят не 90% качества распознавания, а 95%. Когда достигается этот рубеж, они хотят 99% и так далее. И всё время недовольны! Говорят, что всё плохо и неправильно, можно распознавать лучше, человек распознаёт лучше и т.п. А ведь и люди не всякий текст могут понять. Но с пользователями не поспоришь. Вот и получается в итоге, что общество считает, что задача распознавания образов (текстов) не решена.

Есть ещё одна любопытная подробность. Когда на заре развития компьютеров попытки построения искусственного интеллекта закончились ничем, всё направление потеряло большую часть привлекательности, ассигнования сократились, энтузиасты переползли на программирование компьютерных противников в играх и пр. Казалось бы, тупик. Если бы не одно "но": иного результата тогда ожидать и не следовало. Нужно всего лишь представить себе вычислительную мощность компьютеров в лабораториях искусственного интеллекта Массачусетского технологического института в то время. Они были примерно эквивалентны мозгу насекомого. И эквивалент интеллекта насекомого был получен! Затем сокращение ассигнований на исследования ИИ не позволило обновлять компьютерный парк исследователей в темпе, адекватном возможностям технологии. И только сейчас, когда существенно большие мощности стали доступны практически каждому, следует ожидать дальнейшего прогресса.

С течением времени мы будем наблюдать все больше симптомов. Дилемма, которую прочувствовали фантасты, станет восприниматься в контексте творческих усилий иного рода. Мы станем свидетелями того, как постепенно будут автоматизироваться задачи всё более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице.

А каким же будет наступление самой Сингулярности? Что можно сказать об истинном характере этого события? Поскольку дело касается интеллектуального разгона, вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных. Ожидать этого не будет никто, даже те учёные, которые вовлечены в творческий процесс. "Но ведь все наши предшествующие модели не двигались! Мы только подкрутили кое-какие настройки...",– примерно такие мысли и слова удивления, можно ожидать от них.

Через несколько месяцев после этого события наступит нечто, чему автор статьи приводит одну лишь схожую по значимости явления аналогию – возникновение человечества. Мы очутимся в постчеловеческой эре. И, несмотря на технический оптимизм, автор заявляет, что ему было бы куда комфортнее, если бы от этих сверхъестественных событий отделяла тысяча лет, а не двадцать.

Вероятно, это самое слабое место в идее того, что Искусственный Интеллект может возникнуть в том виде, что заменит Естественный. Получается, что чёткого представления о том, как вообще может произойти такой качественный скачёк от тех инструментов, которые может предоставить ИИ (см. выше задачи ИИ), к чему-то, способному к творчеству и конкуренции с человеком, у Винджа нет. Хотя, возможно, что эти соображения он не стал излагать в статье, или же я не смог их распознать. Но, тем не менее, кинематографисты и писатели тему эту не бросают. А значит, задевает она людей.

Пути к Сингулярности и от неё

Виндж не претендует на то, что Сингулярность наступит обязательно. Упоминаются популярные и признанные аргументы Пенроуза и Сёрла о непрактичности машинного разума. А в 1992 году сообщество «Мыслящих Машин» устроило мозговой штурм, целью которого было проверить тезис: «Как построить мыслящую машину» Т.е. участники не полностью разделяли доводы против машинного разума. Принималась общая договорённость, что разум может существовать не только на биологической основе, а алгоритмы являются важнейшими составляющими разума. Выделилось несколько групп, каждая придерживающаяся определённого мнения. Так было меньшинство, считавшее, что мощнейшие компьютеры 1992 года по мощности отстают на три порядка от человеческого мозга. Было большинство, соглашавшееся с подсчётами Ганса Моравеца, которые показывали, что нам потребуется десять-сорок лет и аппаратура сравняется с людьми. Было ещё одно меньшинство, считавшее, что общепринятые оценки вычислительной мощности отдельных нейронов занижены, а значит, наши современные компьютеры отстают на десять порядков от того устройства, что находится в человеческом черепе. Тогда, как говорит Виндж, возможно, мы никогда так и не доживём до Сингулярности, а вместо этого увидим, что кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но "сознание" не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингулярности, так и начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век… и конец прогресса.

Спустя десять лет, Виндж добавил ещё один аргумент против вероятности технологической Сингулярности: даже если мы сумеем создать компьютеры с необходимой аппаратной мощью, может и не получиться организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Просто сложность программного обеспечения возрастёт настолько, что не будет никакой возможности с ним совладать. Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей и мы не получим необходимых решений биологических моделей, которые могли бы помочь реализовать обучение и «эмбриональное развитие» машин. Виндж даже приводит такой контрапункт к закону Мерфи: «Максимально возможная эффективность программной системы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) подлежащего программного обеспечения». И это ужасно. Это означает огромное количество программ, полезность которых мала, а количество это все растёт и растёт.

Тем не менее, если технологической Сингулярности суждено быть, то она обязательно случится. Т.е. в принципе невозможно как-то законодательно или ещё каким-либо способом запретить её. Даже если все государства мира осознают в ней угрозу и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.

Эрик Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем. Но Дрекслер утверждает, что человечество способно удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать.

Виндж, наоборот, считает, что контроль сохранить невозможно. В качестве мысленного эксперимента, он предлагает представить себя запертым в собственном доме с единственным каналом доступа информации, который ограничен некими хозяевами. Если бы хозяева мыслили со скоростью в миллион раз меньшей, чем Вы, то, несомненно, через несколько лет Вашего времени, Вы изобрели бы способ побега. Виндж называет эту быстро мыслящую форму сверхразума «слабым сверхчеловеческим». Такая сущность очень сильно ускорила бы течение времени эквивалентного человеческого ума. Что из себя будет представлять «сильное сверхчеловеческое», сказать трудно. Но различия будут разительны. И тут возникает вопрос о пользе такого разума для человека. В качестве примера, можно представить себе собаку с многократно ускорившейся работой мысли. Тысячелетний опыт собачьего мышления, что он может дать человечеству? Вообще, получается, что очень многие предположения о сверхразуме делаются исходя из модели «слабого сверхчеловеческого». Виндж же считает, что наиболее верные догадки о постсингулярном мире можно делать на предположениях об устройстве «сильного сверхчеловеческого».

Вторым подходом к решению проблемы контроля является идея создания жёстко заданных ограничений свободы действия сверхчеловеческих сущностей. Яркий пример – Законы робототехники Азимова. (Интересно, что формулировки законов запатентованы самим Азимовым, и никто кроме него не может их цитировать дословно. Интересно, для чего он это сделал?) Тем не менее, даже в рассказах Азимова была поднята основная проблема таких ограничений. Все они приводят к сужению возможностей устройств, по сравнению с устройствами без ограничений. А значит, конкуренция будет способствовать развитию менее ограниченных, а следовательно, более опасных моделей.

Последствия Сингулярности. Постчеловеческая эра

Итак, если Сингулярность нельзя предотвратить, нельзя ограничить, то какой будет постчеловеческая эра, насколько жестокой? Одно из возможных последствий – физическое вымирание человечества. Например, Эрик Дрекслер, говоря о нанотехнологиях, сказал, что со всеми подобными техническими возможностями, правительства, вероятно, решат, что простые граждане им не к чему. Однако, физическое вымирание – не самое страшное, что может случиться. Достаточно вспомнить братьев наших меньших - животных – и отношение к ним. В постчеловеческую эру найдётся достаточно ниш, где человек будет востребован, а значит, сохранён, как вид. По этому поводу Вернон Виндж переформулирует золотое метаправило: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой». Последствия использования этого правила, рассчитанные согласно теории игры, в каком-то смысле говорят о том, что, если бы мы могли следовать этому правилу, то это могло бы говорить о распространённости подобных добрых намерений вообще во вселенной.

Виндж напоминает, что, несмотря на то, что предотвратить Сингулярность мы не сМожем, но инициатором всё же выступает человек. А значит, в нашей власти, менять начальные условия этого неуправляемого процесса, чтобы всё происходило с минимальным для нас ущербом. Будет ли прок от предвидения и планирования? Зависит от того, будет ли переход к Сингулярности резким или тихим. Резкий переход – это тот, при котором сдвиг к сверхчеловеческому контролю произойдёт за несколько сотен часов. Спланировать такой переход трудно. Тихий переход может занять десятки лет, может быть, более века. В такой ситуации планирование возможно, можно вдумчиво экспериментировать.

Сингулярность без Искусственного Интеллекта

Чаще всего, когда говорят о существах со сверхчеловеческим разумом, то подразумевают проект по созданию искусственного интеллекта. Однако, в начале статьи, Виндж отметил и другие пути к сверхчеловеческому. Так компьютерные сети и человеко-машинные интерфейсы, хотя и кажущиеся более приземлёнными, тем не менее, могут привести к Сингулярности. Виндж называет такой противоречивый подход Усилением Интеллекта (УИ). Усиление Интеллекта протекает естественно, его не осознают даже разработчики. Однако всякий раз, когда улучшаются наши возможности доступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интеллекту. Дуэт знающего, мыслящего человека и простой рабочей станции способен, по-видимому, сдать любой письменный тест.

Вполне возможно, что УИ является наиболее легким путем к достижению сверхчеловеческого, нежели ИИ в чистом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляется более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин. Предположительно, существует еще, по крайней мере, один прецедент в поддержку данной точки зрения. Кернс-Смит рассуждал о том, что биологическая жизнь вполне могла зародиться в качестве случайного дополнительного свойства более примитивных форм жизни, основывавшихся на росте кристаллов. Линн Маргулис выдвигала серьезные аргументы, доказывая, что симбиоз является могучей движущей силой эволюции.

Виндж не предлагает игнорировать работы по созданию ИИ. Он считает, что достижения в областе разработки ИИ будут находить применение в УИ, и наоборот. Автор предлагает понять, что в работах по созданию сетей и интерфейсов кроется такое же серьёзное и потенциально дикое-чуждое, как и искусственный интеллект.

1. Автоматизация человеко-машинной связки. Здесь рассматриваются проблемы, которые обычно отводятся для решения машинам (вроде задач по методу итеративного спуска - hillclimbing), и программы разработки и интерфейсы, использующие преимущество человеческой интуиции с доступным компьютерным оборудованием. Принимая во внимание причудливость задач по hillclimbing более высокого порядка (и стройных алгоритмов, придуманных для их решения), для человеческого компонента связки можно разработать чрезвычайно интересные дисплеи и средства управления.

2. Симбиоз машины и человека в искусстве. Здесь имеется в виду объединение графических возможностей современных машин и эстетической чуткости людей. Конечно, огромные усилия исследователей тратятся на разработку компьютерных средств помощи художникам. Виндж предлагает четко нацелиться на наибольшее совмещение умений, на максимально возможную кооперацию.

3. Человеко-машинные команды на шахматных турнирах. Сейчас уже есть программы, которые играют в шахматы лучше подавляющего большинства людей. Но сколько сделано, для того чтобы эту мощь мог использовать человек, с тем, чтобы добиться каких-либо еще больших успехов? Если бы таким командам разрешалось участвовать хотя бы в некоторых шахматных турнирах, это могло бы оказать такое же положительное влияние на исследования УИ, какое допуск компьютеров к шахматным соревнованиям оказывает на соответствующую нишу разработок ИИ. В последние несколько лет гроссмейстер Гарри Каспаров развил идею проведения шахматных турниров между игроками, которым помогают компьютеры ("прогрессивные шахматы").

4. Интерфейсы, которые обеспечат доступ к компьютерам и сетям без обязательной привязки человека к одному месту, за столом с монитором. Данный аспект УИ настолько успешно согласуется с известными экономическими преимуществами, что в этом направлении уже работают очень активно.

5. Более симметричные системы поддержки решения. Популярной областью исследований и разработок в последнее время стали системы поддержки решения. Это одна из форм УИ, только, возможно, слишком сфокусированная на прогностических системах. Столько же, сколько программа предоставляет информации пользователю, должно быть и руководства программой со стороны пользователя.

6. Местные сети , которые сделают усилия группы людей эффективнее работы отдельных членов. Это и есть, в принципе, понятие о groupware; смена подхода в данном вопросе заключается в представлении групповой деятельности как работы коллективного организма. В определенном смысле цель такого предложения может заключаться в изобретении "Устава" для таких комбинированных операций. Например, направление деятельности группы легче было бы поддерживать, чем посредством классических собраний. Умения отдельных индивидуумов можно будет изолировать от эгоистических устремлений, с тем, чтобы объединенные усилия разных членов группы концентрировались на общем проекте. Ну и, конечно, базы данных совместного пользования можно было бы задействовать полнее, нежели в обычных совещательных операциях.

7. Интернет представляет собой комбинированный человеко-машинный инструмент. Из всего перечисленного в данном списке прогресс в данной области идет наиболее быстрыми темпами. Сила и влияние Интернета в немалой степени недооценивают. Сама по себе анархичность развития Всемирной сети является свидетельством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на представление Линн Маргулис о биосфере, как своего рода конспекте процессора данных, только с производительностью в миллион раз большей и с миллионами разумных человеческих агентов (нас самих).

Приведенные выше примеры иллюстрируют исследование, которое можно провести в рамках современных областей компьютерной науки. Существуют и другие парадигмы. Например, многие работы по созданию искусственного интеллекта и нейросетей только выиграют от более тесной связи с биологической жизнью. Вместо того чтобы просто пытаться моделировать и воспроизводить биологическую жизнь при помощи компьютеров, исследования следует направить на создание композитных систем, полагающихся на управление со стороны биологической жизни, либо ради каких-то свойств биологической жизни, которые мы недостаточно понимаем, но все-таки стремимся воспроизвести в аппаратном обеспечении. Вековечной мечтой научной фантастики являются прямые компьютерно-мозговые интерфейсы. На практике, в этой области ведутся конкретные работы:

1. Протезирование конечностей представляет собой область прямого коммерческого приложения. Прямые нейро-кремниевые преобразователи можно создать. Это восхитительно досягаемый первый шаг к налаживанию прямой человеко-машинной связи.

2. Прямые каналы связи с мозгом кажутся вполне осуществимыми, если битрейт достаточно низок: учитывая развитую обучаемость человека, едва ли потребуется точно выбирать мишени среди нейронов живого мозга. Даже 100 бит в секунду будут чрезвычайно полезны пострадавшим от паралича, которым, в противном случае, придется оставаться в заложниках у интерфейсов, построенных на структурированных меню. Здесь можно вспомнить учёного Хоукинга, который сейчас парализован и всё его воздействие на окружающий мир сводится к движениям его единственного подвижного пальца руки.

3. Подсоединение к оптической магистрали сулит потенциал огромной пропускной способности. Однако для этого нам необходимо разобраться в тончайшем устройстве зрения, да еще потребуется вживление огромного количества электродов с необычайной точностью. Если мы хотим, чтобы широкополосное соединение прибавило еще возможностей к тем способностям по обработке данных, что уже имеются в человеческом мозге, проблема становится гораздо неподатливее. Эксперименты в этой области ведутся. Так недавно в периодических изданиях, посвящённых хайтеку, появились новости о том, что подключение цифровой камеры к зрительному нерву уже удаётся, а в продажу таки устройства поступят ориентировочно в 2008–10 годах.

4. Эксперименты с зародышами животных. Обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам могло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интеллектуальными способностями. Так было сообщение о том, что пытаются получить мышь с мозгом человека. Такой заголовок очень хорошо смотрелся бы на первой странице какого-нибудь жёлтого издания, но похоже, что это действительно так. Конечно, мышь с человеческим мозгом, навряд ли сама по себе будет полезна, но вот обратное… Если удастся использовать нервные клетки животных для замены человеческих, это по меньшей мере может помочь вылечить многие недуги. Влияние таких исследований несомненно велико.

К сожалению, и на пути к Сингулярности посредством Усиления Интеллекта Виндж также не видит полной безопасности. УИ для человеческих индивидуумов создаёт довольно зловещую элиту. У нас, людей, за плечами миллионы лет эволюционного развития, которые заставляют нас представлять соперничество в мрачном свете. По большей части, эта мрачность может оказаться невостребованной в сегодняшнем мире, в котором проигравшие перенимают приемы победителей и, сплотившись, организуют выигрышные предприятия. Существо, созданное "с чистого листа", может оказаться гораздо благонамереннее, нежели тварь, взращенная по законам клыка и когтя.

Проблема заключается не просто в том, что Сингулярность представляет собой уход человечества со сцены, но в том, что она противоречит нашим сокровенным понятиям бытия. Поэтому далее Виндж рассматривает более внимательно концепцию сильного сверхчеловеческого, пытаясь прояснить причины такого положения вещей.

Сильное сверхчеловеческое и лучшее, на что могут рассчитывать люди

Если предположить, что нам, людям, удастся спланировать Сингулярность, удастся воплотить самые сумасбродные мечты. Что ж… Для не подвергшихся изменениям будет предложено мягкое обращение, возможно придание им статуса хозяев богоподобных слуг. Возможно, наступит золотой век, причём не лишённый прогресса. Бессмертие или чрезвычайно долгая жизнь станут достижимыми.

Прекрасный, добрый мир. Но философские проблемы, вздымающиеся в этом мире, становятся поистине устрашающими. Если разум замкнут в одних границах, то он, по прошествии несколько тысяч лет, будет напоминать закольцованную плёнку, нежели личность – т.е. бессмертие в таком случае ужасно. Чтобы жить неограниченно долго, сам разум должен расти. Ну и какие же родственные чувства он будет испытывать к тому, чем он являлся изначально, когда он разрастётся до огромных размеров и оглянется в прошлое?

Понятие самосознания и эго является основополагающим понятием в рационализме последних нескольких столетий. Однако самосознание, как концепция, подвергается нападкам со стороны приверженцев ИИ. УИ выбивает почву из-под концепции эго с другой стороны. Уже сейчас скорости обмена информации в общедоступных сетях достаточно велики. Постсингулярный мир предполагает наличие более мощных каналов связи. Если части эго можно будет копировать, объединять, а объём самосознания сможет увеличиваться или уменьшаться в зависимости от масштабов решаемых задач, подстраиваясь под них, что произойдёт? Звучит такое построение дико, непривычно, но это и есть существенные черты сильного сверхчеловеческого и самой Сингулярности. Именно это Виндж приводит в качестве подтверждения чуждости постчеловеческой эры, в не зависимости от того, насколько продумано, спланировано, милосердно мы к ней подойдём.

С одной стороны, картина описывает многие человеческие мечты о счастье: бесконечная жизнь, в которой мы умеем по-настоящему понимать друг друга и познаём сокровеннейшие тайны бытия. С другой стороны, это сильно напоминает худший сценарий развития событий, описанный Винджем в самом начале статьи.

Какая же точка зрения обоснована? Виндж считает, что новая эра будет настолько иной, что не сможет вписываться в классические рамки противопоставления добра и зла. Постсингулярный мир прекрасно вписывается в более значимую традицию эволюции и коллективности, зародившуюся давным-давно (может быть, еще до появления биологической жизни).

Заканчивает Вернон Виндж свою статью словами Фримена Дайсона: «Бог – это разум, переросший границы нашего понимания».

Список литературы:

Гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.

По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.

Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.
-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.

Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».

Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной - точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) - точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки - особенности функции.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова - точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)

Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.

Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, - и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.

Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.

Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.