Двоє членів новин, Брайан та Сабін Аткінс, Інтернет -підприємці Брайан та Сабін Аткінс, зустрілися у списку дипломатичних розсилок у 1998 році і незабаром одружилися. 21 -річний Юдковський переїхав до Атланти і щорічно розпочав свою некомерційну зарплату приблизно в 20 000 доларів, щоб проповідувати своє повідомлення про доброту та мудрість. “Я думаю, що щось дуже розумне буде добре автоматично”, – сказав він. Але протягом восьми місяців він почав розуміти, що він помилявся – помилка. Він вважає, що АІ може бути катастрофою.
“Я беру Юдковський пояснив: “Мої гроші – це чужі гроші, і я глибоке відчуття зобов’язання допомогти мені. У якийсь момент, якщо SuperIntelligence не може автоматично вирішити, що таке правильне і що робити, це означає, що немає реального правильного чи неправильного, то в якому випадку, хто буде в якій ситуації? “Він думав, що Аткінс може захотіти скласти” резервний план “, але коли він сів і намагався наполегливо працювати, він з жахом зрозумів, що це неможливо.
Аткінс розуміє, що місія інституту варіюється від того, щоб зробити штучний інтелект до доброзичливого штучного інтелекту. “Частина, яку нам потрібно вирішити дружню проблему AI, дає перешкоди для найму дослідників AI, але у нас, звичайно, немає коштів для цього”, – сказав Юдковський. Натомість він розробив нову інтелектуальну рамку, яку він назвав “раціоналізмом”. (Хоча на своєму обличчі раціоналізм-це віра, що гумунд має силу використовувати причину, щоб виправити відповіді, з часом він описує рух, який, за словами письменника Озі Бреннан, включає “редукціонізм, матеріалізм, моральний нереалізм, утилітаризм, антидеатизм і трансмуманізм”. що “Еліезер Юдковський – це штат Каліфорнія.”)
Юдковський, у своєму документі 2004 року про цілісну «Коргерентну ексуллаплатну волю», Юдковський стверджує, що дружній AI розроблений не лише на основі того, що ми думаємо, що ми хочемо, щоб AI зробив зараз, але насправді в нашому інтересі. Він писав “Мета інженерії – запитати, чого хочуть люди”, чи ми вирішуємо, чи знаємо ми більше, думаємо швидше, і більше про людей, яких ми хочемо самі, людей, яких ми виростаємо разом, тощо. У папері він також використовує незабутню метафору, яка походить від Bostrom, який AI може піти не так: якщо ви програмуємо AI, щоб створити паперу Clips, якщо ви не обережні.
У 2005 році Юдковський відвідував приватну вечерю в ресторані Сан -Франциско, який проводив Інститут передбачення, технологічний аналітичний центр, створений у 1980 -х роках для просування нанотехнологій. (Багато його первісних членів походили з Товариства L5, Асоціація зобов’язалася створити космічну колонію, що блукає за місяцем, і успішно лобіювала, щоб запобігти США підписати угоду про місяць ООН Акції, Юдковський нагадав Тієлу, що це зробило всі фактори ризику втілити.
Leave a Reply