Астрономические расходы: Альтернативная стоимость замедленного научно-технического прогресса

Резюме. С очень передовые технологии, очень большое число людей живущих счастливой жизнью может быть сохранен в доступной области Вселенной. За каждый год, что развитие таких технологий и колонизации Вселенной задерживается, поэтому существует возможность стоимость: потенциальный хорошо, живет стоит жить, не реализуется. Учитывая некоторые правдоподобные предположения, эта стоимость очень велика. Тем не менее, урок для утилитаристы не то, что мы должны максимизировать темпы технологического развития, а то, что мы должны максимально его безопасность, то есть вероятность того, что колонизация со временем произойдет.

I. УРОВЕНЬ УТРАЧЕНОГО ПОТЕНЦИАЛА ЖИЗНИ

Когда я пишу эти слова, солнца освещают и нагревания пустых комнат, неиспользованной энергии в настоящее время спускают черные дыры, и наш великий общий фонд негэнтропии невосполнимые деградировали в энтропии в космических масштабах. Эти ресурсы, развитая цивилизация могла бы использоваться для создания стоимости структур, таких как существа, живущие стоило жизни.

Скорость этой потерей уму непостижимо. Одним из последних спекулирует бумаги с сыпучим теоретических соображений, основанных на скорость возрастания энтропии, что потеря потенциальной человеческой жизни в нашей собственной галактической сверхскоплением по крайней мере ~ 10 ^ 46 в столетие отсроченных колонизации. [1] Эта оценка предполагает, что все потерянные энтропии можно было бы использовать в производственных целях, хотя никаких известных в настоящее время технологические механизмы не являются даже отдаленно способна на это. Так как оценка предназначена для нижней границы, это радикально unconservative предположение является нежелательным.

Мы можем, однако, получить нижнюю границу более прямолинейно путем простого подсчета количества или звезд в нашей галактической сверхскоплением и умножив это число с количеством вычислительной мощности, что ресурсы каждая звезда может быть использован для создания с использованием технологий для которых возможность сильного дело уже было сделано. Затем мы можем разделить эту общую с расчетной количество вычислительной мощности, необходимые для моделирования одной человеческой жизни.

В грубом приближении, скажем Дева Сверхскопления содержит 10 ^ 13 звезд. Согласно одной из оценок вычислительной мощности извлекаемые от звезды, с соответствующим размером с планету вычислительные структуры, с использованием современной молекулярной нанотехнологии [2], 10 ^ 42 операций в секунду. [3] типичная оценка вычислительной мощности человеческого мозга составляет примерно 10 ^ 17 операций в секунду или меньше. [4] Не намного больше, кажется, необходимые для моделирования соответствующих частях окружающей среды достаточно подробно, чтобы включить моделируемых умов есть опыт неотличимы от типичного текущей человеческие переживания. [5] С учетом этих оценкам, следует, что потенциал для примерно 10 ^ 38 человеческих жизней потеряно каждое столетие, что колонизация нашей местной сверхскоплением задерживается; или, что эквивалентно, примерно в 10 ^ 29 потенциальных человеческих жизней в секунду.

Хотя эта оценка является консервативной, что он принимает только вычислительные механизмы реализации которых было по крайней мере, изложенных в литературе, полезно иметь еще более консервативную оценку, что не берет на себя небиологических экземпляра потенциал человека. Предположим, что около 10 ^ 10 биологических люди могли быть устойчивыми вокруг средней звезды. Тогда Сверхскопления Дева может содержать 10 ^ 23 биологических людей. Это соответствует потере потенциальных равна примерно 10 ^ 14 потенциальных человеческих жизней в секунду отсроченных колонизации.

Что имеет значение для наших целей это не точные цифры, а то, что они огромны. Даже по самым скромным подсчетам, при условии реализации биологических всех лиц, потенциал для сто трлн потенциального человеческого существа теряется за каждую секунду отсрочка колонизации нашей сверхскоплением. [6]

II.АЛЬТЕРНАТИВНЫЕ ИЗДЕРЖКИ ЗАМЕДЛЕНОЙ КОЛОНИЗАЦИИ

С утилитарной точки зрения, это огромная потеря потенциальной человеческой жизни составляет соответственно огромная потеря потенциальной ценностью. Я предполагаю, что здесь, что человеческие жизни, которые могли быть созданы были бы те, стоит. Так как это принято считать, что даже текущие человеческие жизни, как правило, стоит, и это слабое предположение. Любая цивилизация достаточно развиты, чтобы колонизировать местных сверхскоплением, скорее всего, также имеют возможность создать по крайней мере минимально благоприятных условий, необходимых для будущей жизни, чтобы быть стоит жить.

Влияние на общую стоимость, то, кажется, больше для тех действий, ускорения технического развития, чем практически для любых других возможных действий. Продвижение технологии (или его содействующих факторов, таких, как экономическая продуктивность) даже такая крошечная сумма, которую он ведет к колонизации М. с всего за одну секунду раньше, чем в противном случае произошло составляет достижение более чем на 10 ^ 29 человеческих жизней (или 10 ^ 14 человеческих жизней, если мы используем самые консервативные нижняя граница), которые иначе не могли бы существовать. Немногие другие благотворительные причины могли надеяться, что Мах уровень утилитарной выигрыша.

Прагматики не только те, кто должен категорически против астрономических отходов. Есть много мнений о том, что имеет значение, что бы согласиться с оценкой, что нынешние темпы потери представляет собой огромную потерю потенциальной ценностью. Например, можно взять более толстый концепции человеческого благосостояния, чем принято считать, по утилитаристы (будь гедонистического, experientialist или желания satisfactionist изогнутые), такие как концепция находит, что значение также и человеческого процветания, значимые отношения, благородный характер, индивидуального выражения, эстетическое восприятие, и так далее. Пока функция оценки является агрегатным (не в счет благосостояния одного человека за меньше только потому, что есть много других лиц в существовании которые также пользуются счастливой жизни) и не релятивизирован к конкретному моменту времени (тайм-дисконтирование), вывод справедлив.

Эти условия могут быть смягчены дальше. Даже если функция благосостояния не является идеально агрегатного (возможно потому, что одним из компонентов является хорошим разнообразием, предельной нормы производства, которые могут уменьшаться с ростом численности населения), он все еще может получить аналогичную линию нижнего предоставляются только что по крайней мере некоторые существенные компонентом хорошего достаточно агрегатное. Кроме того, некоторая степень временных скидок товары будущем могут быть размещены без изменения вывода. [7]

III. ГЛАВНАЯ ЦЕЛЬ УТИЛИТАРИСТОВ ДОЛЖНА ЗАКЛЮЧАТЬСЯ В СНИЖЕНИИ ГЛОБАЛЬНЫХ РИСКОВ

В свете вышеизложенного, это может показаться, что утилитарные должны сосредоточиться свои усилия на ускорение технологического развития. Отдача от даже очень небольшой успех в этом деле настолько огромна, что она затмевает, что почти любой другой деятельности. Мы, кажется, есть практический довод для максимально возможную актуальность технологического развития.

Тем не менее, истинный урок заключается в другом. Если то, что мы имеем дело с является (что-то вроде) максимально ожидаемое число стоит жизней, которые мы создадим, то в дополнение к альтернативной стоимости отложено колонизацию, мы должны учитывать риск неудачи, чтобы колонизировать вообще. Мы могли бы пасть жертвой глобальных рисков, тот, где неблагоприятный исход будет либо уничтожить на Земле разумной жизни или постоянно и резко сократило свой потенциал. [8], потому что продолжительность жизни галактик измеряется в миллиардах лет, в то время как шкала времени любых задержек, что мы могли бы реально повлиять бы измеряться годами или десятилетиями, анализ риска, козыри рассмотрение альтернативных издержек. Например, одного процента снижения глобальных рисков будет стоить (с утилитарной точки ожидаемой полезности-обзора) задержка более чем в 10 миллионов лет.

Поэтому, если наши действия имеют даже малейшего влияния на вероятность возможной колонизации, это перевесит их влияние на колонизацию, когда имеет место. Для стандартных утилитаристы, приоритетом номер один, два, три и четыре, следовательно, должно быть снижение глобальных рисков. Утилитарные императив “максимизировать ожидаемую полезность совокупного!” Может быть упрощено до максима “Минимизировать риск существованию”.

IV. ПОСЛЕДСТВИЯ ДЛЯ ВОЗДЕЙСТВУЮЩЕГО МНЕНИЯ ЛЮДЕЙ

Выше рассуждение предполагает, что наша забота состоит в максимизации общей суммы благополучия. Предположим, что вместо этого мы принять “человека, влияющих на” версии утилитаризма, согласно которой наши обязательства в первую очередь на существующих в настоящее время лицам, и лицам, которые придут на существование. [9] На такого человека, влияющие на вид, человеческого вымирания бы быть плохо только потому, что он делает прошлом или текущей жизни хуже, а не потому, что он представляет собой потеря потенциального стоило жизни. Что должно кого-то, кто пойдет по этому учению делать? Должен ли он подчеркнуть скорость или безопасность, или что-то еще?

Чтобы ответить на этот, мы должны рассмотреть еще несколько вопросов. Предположим, кто-то думает, что вероятность ничтожно мала, что все существующие человек будет выжить достаточно долго, чтобы использовать значительную часть доступной астрономических ресурсов, которые, как описано в начале этой бумаге, постепенно пропадает. Тогда свои причины для минимизации глобальных рисков является то, что внезапное исчезновение бы прочь сократить в среднем, скажем, 40 лет от каждого из текущей (шесть миллиардов или около того) человеческих жизней. [10] Хотя это, конечно, будет большой катастрофы, В том же большой стадион, как другие текущие человеческих трагедий, таких, как мир нищеты, голода и болезней. Исходя из этого, то, человек, влияющих на утилитарные должны рассматривать снижение глобальных рисков как очень важный, но не полностью доминирующей озабоченности. Там не будет в этом случае быть не простой ответ на то, что он должен делать. Где он должен сосредоточить свои усилия будет зависеть от детальных расчетов, о которых площадь благотворительную деятельность он, случайно, не в наилучшем положении, чтобы внести свой вклад в.

Возможно, однако, то необходимо назначить не ничтожно малый вероятность некоторых современных людей, выживших достаточно долго, чтобы воспользоваться преимуществами космических диаспоры. Так называемые технологические “особенности” могут возникнуть в нашей природной жизни [11], или не может быть прорыв в продления жизни, вызванное, возможно, в результате машина фазы нанотехнологий, которые дали бы нам беспрецедентный контроль над биохимическими процессы в нашем организме и дает нам возможность остановить и обратить вспять процесс старения. [12] Многие ведущие технологи и футурист мыслителей дают достаточно высокую вероятность этих событий происходит в течение следующих нескольких десятилетий. [13] Даже если вы скептически относятся к их прогнозам , вы должны рассмотреть неудачных результатов технологического прогнозирования. В связи с устоявшейся ненадежность многих таких прогнозов, казалось бы необоснованные быть настолько уверены в своих предсказаниях, что необходимые прорывов не будет происходить в наше время, чтобы дать гипотезу, что они будут вероятность меньше, чем, скажем, 1%.

Ожидаемую полезность 1% вероятность реализации астрономически большим хорошим все равно может быть астрономической. Но, насколько хорошо было бы для (некоторые существенные подмножества), живущие в людей, чтобы получить доступ к астрономическим количеством ресурсов? Ответ не очевиден. С одной стороны, можно было бы отразить это в современном мире, предельная полезность для отдельных материальных ресурсов снижается довольно быстро, как только его основные потребности были удовлетворены. Уровня Билла Гейтса благополучия, кажется, не значительно превышать многие лица гораздо более скромными средствами. С другой стороны, современные технологии те растения, которые, скорее всего, быть развернуто к тому времени, мы могли колонизировать местных сверхскоплением вполне может обеспечить новые способы преобразования ресурсов в благополучии. В частности, материальные ресурсы могут быть использованы значительно расширить наши умственные способности и бесконечно продлить наше субъективное продолжительность жизни. И это отнюдь не очевидно, что предельная полезность расширенного сохранении здоровья и повышения умственных способностей должно быть резкое снижение выше некоторого уровня. Если нет такого снижения предельной полезности, мы должны сделать вывод, что ожидаемая полезность от текущей особи успешной колонизации нашей сверхскоплением астрономически велико, и это заключение справедливо, даже если один дает довольно низкую вероятность такого исхода. Длинный выстрел может быть, но для максимизации ожидаемой полезности, благо живу, возможно, миллиарды лет с субъективных значительно расширены возможности по фантастически благоприятных условиях может более чем компенсировать удаленное шансы на успех.

Теперь, если эти допущения, что следует о том, как человек, влияющих на утилитарные должны действовать? Очевидно, избегая экзистенциальной бедствий важна не только потому, что это было бы обрезать естественной продолжительности жизни в шесть миллиардов или около того людей, но также – и с учетом этого предположения даже весомее внимание – потому что это будет погасить вероятность того, что текущая люди жатвы огромную пользу возможной колонизации. Тем не менее, в отличие от общей утилитарной, человек, влияющих на утилитарные бы иметь, чтобы сбалансировать эту цель с другой, не менее важной дезидерат, а именно максимизации шансов на текущий людей, выживших воспользоваться колонизации. Для человека, влияющих на утилитарные, это мало того, что человечество выживает колонизировать, крайне важно, чтобы сохранилось людей спастись. Это должно привести ее, чтобы подчеркнуть скорость технологического развития, поскольку быстрое прибытие передовые технологии, несомненно, будет необходимо, чтобы помочь людям текущего остаться в живых, пока плоды колонизация не может быть собран. Если цель скорость конфликтов с целью глобальной безопасности, общее утилитарные должны всегда выбирать Для обеспечения максимальной безопасности, но человек, влияющих на утилитарные придется уравновесить риска людей, умерших от старости с риском их уступить в виду разрушающих катастрофы. [14]

[1] M. Cirkovic, ‘Cosmological Forecast and its Practical Significance’, Journal of Evolution and Technology, xii (2002), http://www.jetpress.org/volume12/CosmologicalForecast.pdf.
[2] K. E. Drexler, Nanosystems: Molecular Machinery, Manufacturing, and Computation, New York, John Wiley & Sons, Inc., 1992.
[3] R. J. Bradbury, ‘Matrioshka Brains’, Manuscript, 2002, http://www.aeiveos.com/~bradbury/MatrioshkaBrains/MatrioshkaBrains.html
[4] N. Bostrom, ‘How Long Before Superintelligence?’, International Journal of Futures Studies ii (1998); R. Kurzweil, The Age of Spiritual Machines: When Computers Exceed Human Intelligence, New York, Viking, 1999. The lower estimate is in H. Moravec, Robot: Mere Machine to Transcendent Mind, Oxford, 1999.
[5] N. Bostrom, ‘Are You Living in a Simulation?’, Philosophical Quarterly, liii (211). See also http://www.simulation-argument.com.
[6] The Virgo Supercluster contains only a small part of the colonizable resources in the universe, but it is sufficiently big to make the point. The bigger the region we consider, the less certain we can be that significant parts of it will not have been colonized by a civilization of non-terrestrial origin by the time we could get there.
[7] Utilitarians commonly regard time-discounting as inappropriate in evaluating moral goods (see e.g. R. B. Brandt, Morality, Utilitarianism, and Rights, Cambridge, 1992, pp. 23f.). However, it is not clear that utilitarians can avoid compromising on this principle in view of the possibility that our actions could conceivably have consequences for an infinite number of persons (a possibility that we set aside for the purposes of this paper).
[8] N. Bostrom, ‘Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards’, Journal of Evolution and Technology, ix (2002), http://www.jetpress.org/volume9/risks.html.
[9] This formulation of the position is not necessarily the best possible one, but it is simple and will serve for the purposes of this paper.
[10] Or whatever the population is likely to be at the time when doomsday would occur.
[11] See e.g. V. Vinge, ‘The Coming Technological Singularity’, Whole Earth Review, Winter issue (1993).
[12] R. A. Freitas Jr., Nanomedicine, Vol. 1, Georgetown, Landes Bioscience, 1999.
[13] E.g. Moravec, Kurzweil, and Vinge op. cit.; E. Drexler, Engines of Creation, New York, Anchor Books, 1986.
[14] I’m grateful for the financial support of a British Academy Postdoctoral Award.

Ресурс: Nick Bostrom

Comments are closed.

Post Navigation