Маск і група експертів закликають призупинити розвиток ШІ: кажуть про безпекові ризики

https://www.epravda.com.ua/news/2023/03/29/698567/

суперкомпьютер грає краще за Каспарова, вже віршики пише, може навчать і музику творити.. які ще типові задачки має вирішувати?

Взагалі то я з ними згоден.
Роботизація підприємств то гарно, але мільйони людей можуть залишитись без роботи.
Безпілотники теж гарно, але ще трохи, і з'ясуються, що ні танки, ні літаки, ні авіаносці не потрібні.
А штучний інтелект в купі з 3D принтерами і робототехникой, можуть такої херні наворотити, що і безпілотники не знадобляться.

Поки що звісно хфантастика, але 10 років тому і Старлінки і 3D принтери були фантастикою.

шкіряні мішки вже не потрібні. світ рухається вперед з такою швидкістю що мозок вже не встигає.

немає ніякого штучного інтелекту
бо комп'ютери працюють за програмами написаним  людьми

Взагалі то я з ними згоден.
Роботизація підприємств то гарно, але мільйони людей можуть залишитись без роботи.

Десь читав, що 60% професій не існували 50 років тому.

50 років тому, усі вважали, що ядерна зброя, то виключно зброя стримування.
А зараз все людство жахається від ідіота, якому дозволили мату ту ядерну зброю.

А взагалі то я вам раджу прочитати, що вони написали.
Хоча в принципі достатньо прочитати що я написав вище.

50 років тому, усі вважали, що ядерна зброя, то виключно зброя стримування.
А зараз все людство жахається від ідіота, якому дозволили мату ту ядерну зброю.

А взагалі то я вам раджу прочитати, що вони написали.
Хоча в принципі достатньо прочитати що я написав вище.

Поінт у тому, що нові технології не тільки вбивають робочі місця, а і створюють нові. І поки що баланс такий, що скоріш людей не вистачає, ніж роботи. І це після пари сотен років прискореного технічного прогресу.

Людей не вистачає саме тому, що ще не прийшли роботи (але паралельно існує величезне безробіття).
Але швидкість розвитку цього напрямку налякала вже самих розробників.
Не думаю, що їх пропозиція просто здуру.

Ши это китаец


писи
где то они правы
развитие в этой сфере несет огромные риски для несовершенных людей

Китаєць Ші більш небезпечний

Элиезер Юдковский, один из главных экспертов по ИИ, призывает бомбить датацентры, чтобы остановить развитие нейросетей и спасти человечество.

Рационалист и автор книги «Гарри Поттер и методы рационального мышления» почти 20 лет проводит исследования и стремится создать дружественного ИИ. Он не утверждает, что GPT–4 вызывает опасения — потенциально опасными могут стать нейронки через несколько лет.

Очень необычно его недавнее интервью для Time. Юдковский считает, что письмо, которое подписали Стив Возняк, Илон Маск и другие лидеры, уже не поможет — нужны более радикальные меры.

Отключить все крупные датацентры, установить предел вычислительной мощности и отрубить обучающие программы. Если датацентры нарушают правила — нужно «уничтожить их авиаударом».

Иначе люди смогут создать враждебный сверх–ИИ, который в миллионы раз умнее их и не будет долго существовать внутри компьютеров.

ФРЕДЕРИК БРАУН. ОТВЕТ

Двар Эв торжественно запаял золотом последний контакт. Двенадцать
телевизионных камер неотрывно следили за каждым его движением; передача
шла на всю Вселенную.
Он выпрямился и кивнул Двар Рейну, затем отошел к переключателю,
который скоро замкнет цепь. К переключателю, соединяющему одновременно все
вычислительные машины всех обитаемых планет - девяносто шесть миллионов
миров - в сверхсеть, которая объединит их в суперкалькулятор, единую
кибернетическую машину, собравшую мудрость, всех галактик.
Двар Рейн заговорил, обращаясь к слушающим и смотрящим триллионам
обитателей. Затем, после короткого молчания, он произнес:
- Пора, Двар Эв!
Двар Эв нажал переключатель. Раздалось мощное гудение, пошла энергия
девяноста шести миллионов планет. На бесконечно длинном пульте замигали
огни.
Двар Эв отступил и глубоко вздохнул.
- Честь задать первый вопрос принадлежит вам, Двар Рейн.
- Благодарю, - молвил Двар Рейн. - Это будет вопрос, на который не
могла ответить ни одна кибернетическая машина.
Он повернулся к пульту.
- Есть ли Бог?
Могущественный голос раздался сразу, без кликанья реле.
- Да. ТЕПЕРЬ Бог есть.
Внезапный страх исказил лицо Двар Эва. Он кинулся к переключателю.
Молния сорвалась с безоблачного неба и испепелила его на месте,
намертво запаяв соединение.

Я читал про опасность ИИ. Забыл автора
На самом деле такие люди тоже впадают в ошибку очеловечивания ИИ. Например они рассуждают о "инстинкте самосохранения ИИ" не понимая что инстинкт самосохранения у животных не является продуктом интеллектуальной деятельности. Он является продуктом естественного отбора. Продуктом интеллектуальной деятельности скорее является преодоление такого инстинкта.
В принципе такого же качества и прочие возражения против ИИ.
Меня вообще несколько забавляют люди рассуждающие об искусственном интеллекте при том что не могут дать определение интеллекта естественного

Возможности AI (искусственного интеллекта) в создании визуала достигнут невиданных высот в течение не пяти лет, а одного года, говорят специалисты. Это позволит создавать не только фото, но и видео, что перевернет всю медиа-индустрию. Можно будет создать не только фото Папы Римского в пуховике, но и видео, где он будет танцевать брейк-данс в пуховике. Всё, что в течение года вы увидите в новостях, может оказаться фейком. Мы вступили в новую эпоху без правил и морали. И последствия будут самыми непредсказуемыми.

Це Березовець, і там на його каналі є пару демонстраційних кадрів.

якщо цивілізовнаий світ припинить розробку ші то не цивілізоввний не зупинить і не відомо які переваг це йому надасть . а розвиток технологій завжди надає перваги ... і ні я ні ви ні найрозумніша людина світе не може спогнозувати до яких технологічних проривів це призведе .... і тоді не цивілізовний світ може знищити тих хто багато років тому відмовмвся від розвитку технологій

якщо цивілізовнаий світ припинить розробку ші то не цивілізоввний не зупинить і не відомо які переваг це йому надасть . а розвиток технологій завжди надає перваги ... і ні я ні ви ні найрозумніша людина світе не може спогнозувати до яких технологічних проривів це призведе .... і тоді не цивілізовний світ може знищити тих хто багато років тому відмовмвся від розвитку технологій

100%

Тобто пацани всралися даремно! Запам'ятаємо.

А що ви скажете на тези Березовця?

Тобто пацани всралися даремно! Запам'ятаємо.

А що ви скажете на тези Березовця?

Неправильно. Просто если и когда будет разработано нечто что превышает по АйКю хотя бы среднего человека то НИКТО НЕМОЖЕТ предсказать что после это произойдет.
Просто вспомни что писали в конце прошлого века про видеофоны, а теперь любой бомж имеет такой видеофон в кармане
Посмотри старую фантастику где люди бороздят просторы галактики и обрати внимание на то какие приборы стоят на их ракетах.

В качестве Ванги могу добавить что поведение ИИ будет на 100% зависеть от его целевого назначения. Если от будет разрабатываться как военная машина то сценарий терминатора вполне реален, а если как комп для управления дорожным движением то микроскопически мал. Хотя недоразумения вполне реальны

Неправильно. Просто если и когда будет разработано нечто что превышает по АйКю хотя бы среднего человека то НИКТО НЕМОЖЕТ предсказать что после это произойдет.

Саме про це йде мова! Ніхто!

От дивись, тези Березовця.
Вбили людину. І тут в інтернеті з'являється ролик, що вбив її саме ти.
Відео з авторегистратора.
Відео лише одне, ні Вася, ні Петя, ні Чекатіло, а саме ти. І алібі у тебе нема.
Жопа!

Ще гірше варіант:
Те саме, але ти робиш ролик про своє алібі!
Знову жопа!
-------------------------------------------

Юрій Гудименко (Дем Сокира) балотується в президенти.
Шанси 90%
І тут з'ясовується, що він роками ґвалтував доньку, і доньку сусідів.
Через тиждень слідчий каже - так у нього два сина!
А осад вже залишився.
-----------------------------------------------

Оце вам штучний інтелект.

а если как комп для управления дорожным движением то микроскопически мал. Хотя недоразумения вполне реальны

Там я вище писав - на дорозі, замість КРАЗу з'являється рожевий намет, і дуже вумна Тесла охуїває.

Там я вище писав - на дорозі, замість КРАЗу з'являється рожевий намет, і дуже вумна Тесла охуїває.

Ну так это показывает только то что этому ИИ до интеллекта как до Киева рачки. Даже у крокодила интеллект явно выше чем у Теслы

А создание роликов к ИИ вообще отношения не имеет Это нейросети так называемые. Явление известное достаточно давно, но наконецто под него смогли подвести  материальную базу. Первые опыты помоему персептоном назывались, или как то так

Саме про це йде мова! Ніхто!

От дивись, тези Березовця.
Вбили людину. І тут в інтернеті з'являється ролик, що вбив її саме ти.
Відео з авторегистратора.
Відео лише одне, ні Вася, ні Петя, ні Чекатіло, а саме ти. І алібі у тебе нема.
Жопа!

Ще гірше варіант:
Те саме, але ти робиш ролик про своє алібі!
Знову жопа!
-------------------------------------------

Юрій Гудименко (Дем Сокира) балотується в президенти.
Шанси 90%
І тут з'ясовується, що він роками ґвалтував доньку, і доньку сусідів.
Через тиждень слідчий каже - так у нього два сина!
А осад вже залишився.
-----------------------------------------------

Оце вам штучний інтелект.

Тю, то ми виходить вже мали штучний інтелект ще у далекому 2019, коли Порошенко вбив і зʼїв власного брата. 

Тю, то ми виходить вже мали штучний інтелект ще у далекому 2019, коли Порошенко вбив і зʼїв власного брата. 

Це Зілєнскій ?      

Италия первой в мире приостановила доступ к чат-боту ChatGPT

Власти Италии первыми в мире приостановили доступ к чат-боту ChatGPT. Соответствующее заявление опубликовано на сайте итальянского Национального управления по защите персональных данных.

Регулятор заявил, что временно запрещает обработку данных итальянских пользователей американской OpenAI, которая разработала и управляет ChatGPT. Ведомство также начало расследование возможного нарушения компанией сохранности персональных данных.

Италия приняла решение о блокировке ChatGPT после утечки, о которой OpenAI сообщила на прошлой неделе. В компании рассказали, что были вынуждены временно отключить ChatGPT из-за ошибки в работе библиотеки с открытым исходным кодом. В результате некоторые пользователи видели сообщения других людей, общавшихся с чат-ботом.

Чи буде двіжуха нових лудитів?

Це Зілєнскій ?      

Бубачька більш схожий на природнього дибіла. 

Чи буде двіжуха нових лудитів?

пан розуміється на історичних прецендентах
а як у пана з житлом? апатмент з душем чи з ванною? якщо є життєві проблеми то не соромтеся звертатися саме до ChatGPT, просіть у нього чого хочете... крім грошей у борг.

Бубачька більш схожий на природнього дибіла. 

Що значить схожий?

Ну так это показывает только то что этому ИИ до интеллекта как до Киева рачки. Даже у крокодила интеллект явно выше чем у Теслы

Лєм спрогнозував очевидне, що перед появою Штучного Інтелекту з'явиться Штучний Ідіот. Власне наразі технологія саме на такому рівні - ну й нема нічного дивного, що Штучний Ідіот в якості раба є більш жаданим, аніж Натуральний Ідіот в якості рівноправного робітника.