Тема «Религия искусственного интеллекта»

Вы здесь: Форумы fantlab.ru. > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта»

Религия искусственного интеллекта

Страницы: 1 2 3 4 5...30 31 32 🔍 поиск написать сообщение

автор

сообщение

гранд-мастер

11 февраля 2019 г. 22:52

цитировать | [ ]

цитата bbg
Пока она существенно планарная, до истинной трехмерности, которая может обеспечить рывок быстродействия

Гм — так имеет значение не само быстродействие, а быстродействие на единицу площади\объема с поправкой на необходимость охлаждения. В настоящий момент технология уже не планарная (уже с 28 нм начиная, по моему) и сейчас уже существуют сомнения в текущей исполняемости закона Мура — с учетом того, что затворы в чипах всех производителей, кроме Интел, уже давно имеют частично вертикальное расположение. Поэтому все эти объявляемые 5 и 3 нм (а иногда и 2) — фикция, а реальное быстродействие этих кристаллов едва соответствует 7, а то и 10-12 "честным" нм — именно потому, что они непланарные (занимают больший объем при формально той же площади кристалла, что также означает большую потребность в охлаждении). При этом теоретический предел кремния около 1 нм (0.54 нм — размер пролёта кристаллической решётки атома кремния плюс два диаметра атома). Но технологический предел — гораздо больше — для того, чтобы организовать два p-n перехода и добиться изоляции сигнала (чтобы не шла наводка от одного туннелирующего электрона на другой) требуется не один пролёт решетки, а как минимум несколько (на 10 нодах достигнута устойчивая работа с 9-ю ведутся эксперименты), кроме того текущие сложности с запуском заводов по технологиям в 10-12 нм связаны в том числе с технологическими сложностями — не удается получить кристалл с уровнем брака меньше 70% — при дальнейшем уменьшении техпроцесса показатель брака будет только расти. И последнее — финансовые сложности. При стоимости в десятки миллиардов долларов современным заводам по производству кристаллов требуется только глобальный рынок — иначе они не окупятся. При технологии в 3нм завод будет стоить миллиардов сто и земного шара ему, возможно, не хватит. Поэтому эксклюзивные изделия, построенные по предельным технологим, ещё возможны, но массовые уже нет.

–––
"Мир идет прахом в той стороне, мальчик"

философ

11 февраля 2019 г. 22:58

цитировать | [ ]

цитата sanbar
Ни в кого он не превратился. Он просто попугаячьи скопировал человеческие методы общения в сети, оценив их как эффективные способы решения поставленной перед ним задачи.

Люди поступают так же, по-попугаичьи, реализуя такое психическое свойство как конформность. Для социальных существ это и благо, поскольку снижает уровень противоречий и повышает согласованность действий, но это и проблема тоже.
Если ИИ повторил за человеком только расистские эскапады или шуточки в Твиттере, то по-настоящему страшного ничего не произошло(хотя многие со мной не согласятся). А вот будучи наделенным исполнительными устройствами(для физического манипулирования) почему бы ему не повторить суд Линча? Что-то мне подсказывает, что нас, человеков, не слишком будет утешать, что он не имеет эквивалентного человеческому, истинного пространства побуждений и решений.

Опасность ИИ — в быстродействии его "нейроструктур". Мы не способны даже и приблизительно оценивать, интерпретировать поведение "программы" со скоростью машины. Соответственно, и отметить признаки аномального, девиантного поведения системы. Пока это происходит только в рамках вычислительного устройства, разобщенного с исполнительными машинами и сетью(как канала к машинам и устройствам) — это не так пугает, а если такой аберрантный код покинет этот изолятор?
Таким образом, появляется необходимость создания др.ИИ, а может и программных примитивов, которые могли бы с достаточной скоростью реакции проверять основной ИИ и своевременно реагировать на "выход из берегов".
------------
Думаю, что проблема дискуссии еще и в том, что участники, кажется, по-разному понимают ИИ и, наверное, отождествляем ее с просто ультрасложной программой. Возможно, я ошибаюсь.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

гранд-мастер

11 февраля 2019 г. 23:06

цитировать | [ ]

цитата viantin
никто не может утверждать что "свободная воля" невозможна у ИИ

Никто не может утверждать, что "свободная воля" вообще существует. Наша "воля" и наши желания в полной мере сформированы эволюцией и "свободны" они только в рамках ограничений наложенных конкурирующими побуждениями, обусловленными этой "прошивкой". Сознание это набор информационных детерминант -инстинктивных побуждений, конкурирующих за право определять наши решения. Ограничителем служит закольцованная и постоянно уточняющаяся информационная структура, обычно именуемая личностью и определяющаяся в основном культурой\воспитанием. Она обладает устойчивостью (информационно гомеостатична), но способна изменяться и усложняться, включая в себя новые элементы. Этот "образ себя" обладает ключевой ролью в принятии решений — именно здесь существует этика, но сама по себе эта стуктура не обладает позитивной свободой воли — только негативной. Она не способна порождать мотивации — она только может выбирать какая из инстинктивно детерминированных и эволюционно сформированных мотиваций (или их сочетаний) получит возможность реализоваться в тот или иной конкретный момент времени в качестве акта проявленной воли — поступка. Причем существует и обратная связь — система "поощрений и наказаний", заливающая эту структуру убойными дозами нейромедиаторов и гормонов в ответ на принятие правильных\неправильных с точки зрения тех самых инстинктивных мотиваций решений.

–––
"Мир идет прахом в той стороне, мальчик"

гранд-мастер

11 февраля 2019 г. 23:13

цитировать | [ ]

цитата cianid
А вот будучи наделенным исполнительными устройствами(для физического манипулирования) почему бы ему не повторить суд Линча?

Ещё раз — а кто то разве сказал, что ИИ безопасен? По моему мои возражения были связаны вообще не с этим, а с характером предлагаемых для купирования соответствующей угрозы мер.

–––
"Мир идет прахом в той стороне, мальчик"

магистр

11 февраля 2019 г. 23:21

цитировать | [ ]

— Нет, искусственного интеллекта никогда не будет. Основной вопрос состоит в том, чем живое отличается от неживого. Мы пока не понимаем эту разницу. Следующий этап — разум.
"Машина никогда не будет живым организмом. Чем разум отличается от всего остального? Он способен верить. Вот машина никогда бы не сделала шаг, который сделал Эйнштейн. Потому что в машине заложен определенный алгоритм и все. Или то, что сделал слуга Фарадея, который открыл электродинамику.
Разум способен поверить, и на базе веры создавать новое. Вот поверил в какую-то вещь, начинаешь создавать. Если сходится с ответом результат, значит возникает наука. Машинного интеллекта не будет. А то, что в Китае уже сейчас самая мощная вычислительная техника в мире — это факт. Ну, Китай и по ВВП на первом месте".
С.Острецов. дтн. Из интервью.

–––
Вскую шаташася языцы, и людие поучишася тщетным?

философ

11 февраля 2019 г. 23:24

цитировать | [ ]

цитата sanbar
а с характером предлагаемых для купирования соответствующей угрозы мер.

Я,как видно, это упустил. И какого характера меры вы считаете негодными или не необходимыми? Пардон, что прошу повторить, не прошу развёрнуто.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

11 февраля 2019 г. 23:29

цитировать | [ ]

urs, данный тред не для обсуждения личных проблем Острецова с пониманием что такое живое, и что такое разум.
Здесь речь о том, что уже созданные "экземпляры" ИИ существуют и работают. В том числе и на науку, делая открытия. С оговорками, конечно.
И центральным вопросом в таких темах, как показывает практика моего общения, почти неизбежно становятся возникающие угрозы и проблемы контроля очень шустрого "квазиразума", предразума или как хотите его назовите.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

гранд-мастер

11 февраля 2019 г. 23:46

цитировать | [ ]

цитата cianid
И какого характера меры вы считаете негодными или не необходимыми?

Заявленные в названии ветки — создание "нравственных " или "религиозных" ИИ. Т.е. я не то чтобы считаю эти меры негодными — я считаю их невозможными, поскольку сама формулировка проблемы предполагает принципиально неправильное понимание текущей и возможной в обозримом будущем итерации ИИ, который де-факто будет представлять собой не обладающий сознанием, а уж тем более человеческим сознанием программный конструкт, поддержанный громадной вычислительной мощностью (а не некое "яблочко, упавшее с яблони" — т.е. аналогичное человеческому в мотивационном отношении, но при этом интеллектуально богоподобное сознание) . При этом программное вшивание в "ядро" ИИ, имеющего в своем распоряжении те или иные "исполнительные мощности" этически обусловленных ограничений видится мне совершено необходимым. Но это будет этика создателей ИИ, а не самого ИИ — для него она не будет иметь никакого иного смысла, за исключением побуждающего или запрещающего императива.

–––
"Мир идет прахом в той стороне, мальчик"

философ

11 февраля 2019 г. 23:59

цитировать | [ ]

цитата JimR
а. Три закона РТ никто не отменял.

они не работают. Даже сам Азимов и то описывал способы

–––
Чтение-Сила

философ

12 февраля 2019 г. 00:11

цитировать | [ ]

цитата sanbar
я считаю их невозможными, поскольку сама формулировка проблемы предполагает принципиально неправильное понимание текущей и возможной в обозримом будущем итерации ИИ

Ну, вы ведь и сами пишете, что люди, в массе своей, неправильно понимают и механизм проявления "собственной" воли и природу мотиваций. Например, всегда ли у нас происходит осознание "запрещающего" или "побуждающего императива" и всегда ли он имеет для нас смысл, а не просто означает "так нельзя", "это нехорошо"? А почему нельзя в носу ковырять или пальцем показывать в людей?

цитата sanbar
При этом программное вшивание в "ядро" ИИ этически обусловленных ограничений видится мне совершено необходимым.

Ну, вот это и можно ведь условиться называть "машинной этикой", отвлекаясь от ее привнесенной сотворенной природы. Я думаю, что ваши собеседники именно это и имели в виду, вспоминая те же азимовские императивы и не предполагали дискуссии о нейроэволюции. В конце концов, человекам этику тоже во многом "вшивают", мерами общественного воздействия. Только очень так неявно и не слишком надежно.
Так вот, то, к чему я подвожу, всё это источник другой проблемы — добросовестное следование этическому кодексу "роботостроителя" отдельными личностями и контроль над этим, ибо -

цитата sanbar
При этом программное вшивание в "ядро" ИИ этически обусловленных ограничений видится мне совершено необходимым.

— а кому-то не только не видится так же, но и желательно обратное.
Вы же, наверняка, если не сталкивались, то слышали о вирусах, зловредном коде. Они появляются не в результате нейроэволюции, а в отсутствие возможности "зашить в ядро" человека надежные средства обеспечения его добросовестности и подавления злонамеренных актов с его стороны. А еще ведь есть и незлонамеренные, а попросту ошибочные, халатные, безответственные.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

гранд-мастер

12 февраля 2019 г. 00:20

цитировать | [ ]

цитата cianid
Я думаю, что ваши собеседники именно это и имели в виду,

Нет — я как раз считаю иначе. И говорю о конкретно топикстартере, а не о "собеседниках" в целом. Полагаю, и это довольно легко подтвердить цитатами, что он понимает под ИИ именно что некую человекоподобную личность, способную, например, испытывать "чувство превосходства" по отношению к интеллектуально отсталому человечеству и потому (в частности) нуждающемуся в некой "машинной религии".

–––
"Мир идет прахом в той стороне, мальчик"

миротворец

12 февраля 2019 г. 00:21

цитировать | [ ]

цитата cianid
отсутствие возможности "зашить" в ядро человека надежные средства обеспечения его добросовестности и подавления злонамеренных актов с его стороны. А еще ведь есть и незлонамеренные, а попросту ошибочные, халатные, безответственные.

Возвращаясь к ИИ... Любая очень сложная система подвержена глюкам. Очень интересно, как с этими глюками проинтерферируют вшитые императивы:))

–––
Стой, кто живёт! Здесь жить запрещено. Это вас касается, и это не смешно.
Тема не в тексте, но в голове у читателя.

философ

12 февраля 2019 г. 00:27

цитировать | [ ]

цитата sanbar
Нет — я как раз считаю иначе. И говорю о конкретно топикстартере, а не о "собеседниках" в целом. Полагаю, и это довольно легко подтвердить цитатами, что он понимает под ИИ именно что некую человекоподобную личность, способную, например, испытывать "чувство превосходства" по отношению к интеллектуально отсталому человечеству и потому (в частности) нуждающемуся в некой "машинной религии".

Ну, автор-то человек, и он вынужден по-человечьи объяснять проблемы безопасности в подразумеваемом конфликте с ИИ.
Я не вижу способа внедрить в ИИ какие-то "философии и этики", минуя математический формализм и его воплощение в коде.
И несмотря на свою человечью ограниченность, автор берет в кавычки некоторые слова, неявно указывая на не совсем человечность свойств ИИ

цитата viantin
Проблема не только в этом, но ещё и в том, что сам ИИ будет "чувствовать" своё превосходство и превосходить людей

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

12 февраля 2019 г. 00:36

цитировать | [ ]

цитата bbg
Возвращаясь к ИИ... Любая очень сложная система подвержена глюкам. Очень интересно, как с этими глюками проинтерферируют вшитые императивы:))

Да. Я тоже вижу и это, а так же еще ряд нетривиальных проблем, связанных пониманием ИИ не просто как ультрасложной программы со встроенной толикой "внутренней свободы". И снова все это мультиплицируется вычисл.мощностью аппаратов.
Дискуссия очень интересная, но, боюсь, весьма объемная, а время позднее. 8-)

Завтра поделюсь своими соображениями об ИИ, если кто-нибудь не упредит меня в моих тезисах.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

12 февраля 2019 г. 00:45

цитировать | [ ]

цитата sanbar
Нет — я как раз считаю иначе. И говорю о конкретно топикстартере, а не о "собеседниках" в целом. Полагаю, и это довольно легко подтвердить цитатами, что он понимает под ИИ именно что некую человекоподобную личность, способную, например, испытывать "чувство превосходства" по отношению к интеллектуально отсталому человечеству и потому (в частности) нуждающемуся в некой "машинной религии".

И "ДА" и "НЕТ")
Цитирую:
"Моё мнение — никто не сможет контролировать искусственный интеллект кроме него самого. Эту проблему нельзя будет решить извне, с помощью давления, наказаний, новых апгрейдов. Скорее всего, её преодоление лежит внутри, через сознание андроидов. И если до появления собственный воли у ИИ, не будет создана система-метод ценностей, этики и психологии искусственного интеллекта, исход будет вряд ли позитивным."
Вы обратили внимание что я не указал КЕМ будет создана?)

философ

12 февраля 2019 г. 01:03

цитировать | [ ]

viantin, да, sanbar всё-таки, в значительной мере прав — увлекаясь гуманизацией "источника" поведения робота, ИИ вы, вольно или невольно, сваливаетесь в биологическую сферу, где всё не совсем так или совсем не так, как в коде, а еще большее в этом — до сих пор неясно.

ИИ же усложнится и станет/может стать опасным задолго до того, как мы успеем понять как формируется наша система, простигосподи, ценностей, философии, этики и религии и как её редуцировать к массиву "диалогов/полилогов" в нейронных ансамблях, нейротрансмиттерным механизмам в синапсах и прочая. Понятие "сознание", как наиболее сложное в психологии, вообще не имеет консенсусного понимания и определения до сих пор.

Т.е. к этому моменту(если он вообще возможен) уже будет существовать абсолютно нечеловеческий по своей реализации ИИ, который, возможно, и будет поведенчески напоминать человека. А может зверей, а может "думающчие папоротники из Горменона!"(с). :-)))

Вы слишком "на далеко" откладываете возможный конфликт, увязнув в человечьих "вечных вопросах" и ценностных системах, которые и человеческие конфликты не слишком эффективно сдерживают.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

магистр

12 февраля 2019 г. 13:05

цитировать | [ ]

Господа, начиная любую дискуссию нужно хотя бы более-менее определить обсуждаемые параметры. Что такое искусственный интеллект? Количество операций в секунду? И только? Он на сто процентов должен быть равным человеческому? Или меньше? А что такое человеческий разум? Чем он отличается от разума собачье\кошачьего, они ведь разумны и даже понимают ограниченное количество слов? И должен ли ИИ заменять человеческий разум? В таком случае, чем неживая материя отличается от живой? И как функционирует мозг? Наталья Бехтерева, академик, не знает, Татьяна Черниговская тоже.... Некоторые вообще считают мозг приемником...На основании чего считается, что мозг человека можно заменить ЭВМ? Какими теоретическими положениями оправдывается это предположение? Рассказами Айзека Азимова?
Словом тема ИИ в настоящее время абсолютно антинаучна... Впрочем помечтать не возбраняется.

–––
Вскую шаташася языцы, и людие поучишася тщетным?

философ

12 февраля 2019 г. 13:25

цитировать | [ ]

цитата urs

Господа, начиная любую дискуссию нужно хотя бы более-менее определить обсуждаемые параметры. Что такое искусственный интеллект? Количество операций в секунду? И только? Он на сто процентов должен быть равным человеческому?

В данный момент ИИ — это класс программного обеспечения, отличающийся от классического ПО способностью к самообучению. Грубо говоря, если вы захотите научить классическую программу разговаривать с клиентом в чате, вам придется написать стокилометровый обработчик, состоящий из миллиарда дурных конструкций IF...ELSE..., чтобы он мог обработать все возможные пути развития беседы. Или вы можете создать нейросеть (работа нейронов далеко не до конца, но все-таки изучена) и обучить ее навыкам ведения беседы. Это будет далеко не Пушкин, но помочь клиенту, скажем, выбрать пылесос программа сможет. Ничего сверхъестественного.

–––
Из Брешии в Брешию

активист

12 февраля 2019 г. 13:40

цитировать | [ ]

цитата urs
Что такое искусственный интеллект?

"Искусственный интеллект — это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом, — понимание языка, обучение, способность рассуждать, решать проблемы и т. д."
http://www.tadviser.ru/index.php/%D0%9F%D...

активист

12 февраля 2019 г. 13:59

цитировать | [ ]