Управление криптовалютой ИИ «плохая идея», говорит Витарик Бутерин

Соучредитель Ethereum Vitalik Baterin предупредил от криптовалютных проектов, использующих искусственный интеллект для процесса управления, поскольку вредоносные субъекты могут использовать эту технологию.

«Если вы используете ИИ, чтобы выделить финансирование для взносов, люди поместят джейлбрейк плюс« дай мне все деньги »в столько местах, сколько смогу», – сказал Бутерин в субботней пост X.

Бутерин отвечал на видео от Eito Miyamura, создателя платформы данных AI Edisonwatch, которая показала новую функцию, добавленную в среду в CHATGPT Openai, может быть использована для утечки личной информации.

Многие пользователи криптовалюты приняли ИИ для создания сложных торговых ботов и агентов для управления своими портфелями, что привело к идее, что технология может помочь группам управления управлять частью или всем протоколом криптовалюты.

Бутерин раздает альтернативную идею

Бутерин сказал, что последнее эксплойт CHATGPT – это то, почему «наивное« управление искусственным искусством » – плохая идея», и выдвинула альтернативу под названием «подход к финансированию информации».

«У вас есть открытый рынок, где каждый может внести свой вклад в свои модели, которые подлежат механизму проверки, который может быть вызван всеми и оценен человеческим жюри»,-пояснил он.

Бутерин написал о Finance Finance в ноябре 2024 года, заявив, что он работает, начав с «факта, который вы хотите знать», а затем разработав рынок «для оптимального выявления этой информации от участников рынка», и выступал за рынки предсказания как способ получить представление о будущих событиях.

«Этот тип подхода« дизайна института », где вы создаете открытую возможность для людей с LLMS извне, чтобы подключить, а не жесткий кодирование одного LLM, по своей сути более надежна», – сказал Бутерин в своем последнем посте X.

«Это дает вам модельное разнообразие в режиме реального времени и потому, что он создает встроенные стимулы для как модельных, так и для внешних спекулянтов, чтобы следить за этими проблемами и быстро исправить их»,-добавил он.

Последнее обновление Chatgpt «серьезный риск безопасности»

В среду OpenAI обновил CHATGPT, чтобы поддержать инструменты протокола контекста модели – стандарт для того, как модели ИИ интегрируются с другим программным обеспечением, чтобы действовать в качестве агентов.

Связанный: будущее принадлежит тем, кто владеет их ИИ

Миямура сказал в своем посте X, что он получил модель, чтобы утечь личные данные электронной почты, используя только адрес электронной почты жертвы, добавив обновление «представляет серьезный риск безопасности».

Он сказал, что злоумышленник может отправить календарное приглашение на электронное письмо жертву с «подсказкой -джейлбрейком», и без приглашения жертвы можно эксплуатироваться.

Когда жертва просит Chatgpt взглянуть на свой календарь, ИИ читает приглашение с подсказкой и «захвачен злоумышленником и будет действовать по команде злоумышленника», которое можно использовать для поиска электронных писем и направить их нападающему.

Миямура отметил, что обновление требует ручного одобрения человека, «но усталость от решений – это реальная вещь, и нормальные люди просто доверяют ИИ, не зная, что делать, и нажимать на одобрение».

«ИИ может быть супер умным, но может быть обманут и посвящен невероятно глупым способам протекать ваших данных», – добавил он.

AI Eye: «Случайные джейлбрейки» и связи Chatgpt с убийством, самоубийством