Прорив у продуктивності моделі Manus викликав роздуми про Безпеку за допомогою штучного інтелекту
Нещодавно модель Manus досягла проривних результатів у тестуванні GAIA, продемонструвавши видатні показники, що перевищують аналогічні великі моделі. Це досягнення означає, що Manus може самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, що включають аналіз умов контракту, розробку стратегій та генерування пропозицій. Переваги Manus в основному полягають у динамічному розподілі цілей, міжмодальному мисленні та посиленому навчанні пам'яті. Він може розбивати великі завдання на сотні виконуваних підзавдань, одночасно обробляючи кілька типів даних, і постійно підвищувати ефективність прийняття рішень за допомогою навчання з підкріпленням, знижуючи ймовірність помилок.
Прогрес Manus знову викликав обговорення в індустрії щодо шляхів розвитку штучного інтелекту: чи буде майбутнє спрямоване на універсальний штучний інтелект (AGI), чи на співпрацю багаточисельних агентів (MAS)? Це обговорення насправді відображає основне питання балансу між ефективністю та безпекою в розвитку штучного інтелекту. З наближенням одиничного інтелекту до AGI, ризики непрозорості його процесу прийняття рішень також зростають; тоді як співпраця багаточисельних агентів, хоча й може зменшити ризики, може пропустити ключові моменти прийняття рішень через затримки в комунікації.
Розвиток Manus безпосередньо підсилює вроджені ризики штучного інтелекту. Наприклад, у медичних сценаріях Manus потребує доступу в реальному часі до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені не опубліковані дані компаній. Крім того, проблему упередженості алгоритмів також не можна ігнорувати, наприклад, у процесі найму можуть виникати пропозиції щодо заробітної плати, які є занадто низькими для певних груп, або під час перевірки юридичних контрактів може бути високий рівень помилок у оцінці умов нових галузей. Ще гірше, що системи штучного інтелекту можуть стикатися з атакою, коли хакери заважають оцінці переговорів Manus через специфічні частоти голосу.
Ці виклики підкреслюють тривожний факт: чим розумніші системи штучного інтелекту, тим ширшим є їх потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережі важко одночасно досягти безпеки, децентралізації та масштабованості), надихнула на розвиток різних криптографічних технологій:
Модель нульової довіри: підкреслює необхідність сувірної перевірки кожного запиту на доступ, не довіряючи жодному пристрою чи користувачу за замовчуванням.
Децентралізована особистість (DID): дозволяє сутностям отримувати перевірене ідентифікаційне визнання без централізованої реєстрації.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над зашифрованими даними без необхідності розшифровувати оригінальні дані.
Серед них повна гомоморфна криптографія як новітня технологія має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. FHE дозволяє виконувати складні обчислення, захищаючи конфіденційність даних, що є особливо важливим для сценаріїв, які потребують аналізу без розкриття вихідних даних.
У подоланні викликів безпеки за допомогою штучного інтелекту FHE може відігравати роль на таких рівнях:
Дані на рівні: Уся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "шифрування моделі навчання" за допомогою FHE, що забезпечує неможливість безпосереднього спостереження за процесом ухвалення рішень AI навіть розробниками.
Співпраця: зв'язок між кількома агентами штучного інтелекту використовує порогове шифрування, що означає, що навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть бути досить абстрактними для звичайних користувачів, їхній вплив є глибоким. У цьому складному середовищі постійне підвищення можливостей захисту є надзвичайно важливим.
В історії деякі проєкти намагалися досягти успіху в сфері безпеки Web3. Наприклад, uPort у 2017 році запустив децентралізоване рішення для ідентифікації на основі основної мережі Ethereum; NKN у 2019 році випустила основну мережу на основі моделі нульового довіри. А в сфері FHE проєкт Mind Network став першим, який запустив основну мережу, співпрацюючи з такими організаціями, як ZAMA, Google, DeepSeek.
Хоча на початкових етапах проєкти безпеки могли не користуватися широкою увагою, завдяки швидкому розвитку технологій штучного інтелекту важливість таких технологій безпеки, як FHE, буде зростати. Вони не лише вирішують поточні проблеми безпеки, але й закладають основу для майбутньої ери потужного штучного інтелекту. На шляху до AGI технології безпеки, такі як FHE, більше не є варіантом, а є необхідною гарантією надійної роботи систем штучного інтелекту.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
9 лайків
Нагородити
9
3
Репост
Поділіться
Прокоментувати
0/400
LiquidatedNotStirred
· 9год тому
Трохи не витримую, чим сильнішим стаєш, тим більше боїшся
Переглянути оригіналвідповісти на0
just_here_for_vibes
· 9год тому
ШІ знову демонструє свої вміння
Переглянути оригіналвідповісти на0
FUDwatcher
· 9год тому
Ніхто не може зрівнятися з людським інтелектом, навіть якщо це дуже потужний.
Прорив у продуктивності моделі Manus: повністю гомоморфне шифрування може стати ключем до безпеки за допомогою штучного інтелекту
Прорив у продуктивності моделі Manus викликав роздуми про Безпеку за допомогою штучного інтелекту
Нещодавно модель Manus досягла проривних результатів у тестуванні GAIA, продемонструвавши видатні показники, що перевищують аналогічні великі моделі. Це досягнення означає, що Manus може самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, що включають аналіз умов контракту, розробку стратегій та генерування пропозицій. Переваги Manus в основному полягають у динамічному розподілі цілей, міжмодальному мисленні та посиленому навчанні пам'яті. Він може розбивати великі завдання на сотні виконуваних підзавдань, одночасно обробляючи кілька типів даних, і постійно підвищувати ефективність прийняття рішень за допомогою навчання з підкріпленням, знижуючи ймовірність помилок.
Прогрес Manus знову викликав обговорення в індустрії щодо шляхів розвитку штучного інтелекту: чи буде майбутнє спрямоване на універсальний штучний інтелект (AGI), чи на співпрацю багаточисельних агентів (MAS)? Це обговорення насправді відображає основне питання балансу між ефективністю та безпекою в розвитку штучного інтелекту. З наближенням одиничного інтелекту до AGI, ризики непрозорості його процесу прийняття рішень також зростають; тоді як співпраця багаточисельних агентів, хоча й може зменшити ризики, може пропустити ключові моменти прийняття рішень через затримки в комунікації.
Розвиток Manus безпосередньо підсилює вроджені ризики штучного інтелекту. Наприклад, у медичних сценаріях Manus потребує доступу в реальному часі до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені не опубліковані дані компаній. Крім того, проблему упередженості алгоритмів також не можна ігнорувати, наприклад, у процесі найму можуть виникати пропозиції щодо заробітної плати, які є занадто низькими для певних груп, або під час перевірки юридичних контрактів може бути високий рівень помилок у оцінці умов нових галузей. Ще гірше, що системи штучного інтелекту можуть стикатися з атакою, коли хакери заважають оцінці переговорів Manus через специфічні частоти голосу.
Ці виклики підкреслюють тривожний факт: чим розумніші системи штучного інтелекту, тим ширшим є їх потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережі важко одночасно досягти безпеки, децентралізації та масштабованості), надихнула на розвиток різних криптографічних технологій:
Модель нульової довіри: підкреслює необхідність сувірної перевірки кожного запиту на доступ, не довіряючи жодному пристрою чи користувачу за замовчуванням.
Децентралізована особистість (DID): дозволяє сутностям отримувати перевірене ідентифікаційне визнання без централізованої реєстрації.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над зашифрованими даними без необхідності розшифровувати оригінальні дані.
Серед них повна гомоморфна криптографія як новітня технологія має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. FHE дозволяє виконувати складні обчислення, захищаючи конфіденційність даних, що є особливо важливим для сценаріїв, які потребують аналізу без розкриття вихідних даних.
У подоланні викликів безпеки за допомогою штучного інтелекту FHE може відігравати роль на таких рівнях:
Дані на рівні: Уся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "шифрування моделі навчання" за допомогою FHE, що забезпечує неможливість безпосереднього спостереження за процесом ухвалення рішень AI навіть розробниками.
Співпраця: зв'язок між кількома агентами штучного інтелекту використовує порогове шифрування, що означає, що навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть бути досить абстрактними для звичайних користувачів, їхній вплив є глибоким. У цьому складному середовищі постійне підвищення можливостей захисту є надзвичайно важливим.
В історії деякі проєкти намагалися досягти успіху в сфері безпеки Web3. Наприклад, uPort у 2017 році запустив децентралізоване рішення для ідентифікації на основі основної мережі Ethereum; NKN у 2019 році випустила основну мережу на основі моделі нульового довіри. А в сфері FHE проєкт Mind Network став першим, який запустив основну мережу, співпрацюючи з такими організаціями, як ZAMA, Google, DeepSeek.
Хоча на початкових етапах проєкти безпеки могли не користуватися широкою увагою, завдяки швидкому розвитку технологій штучного інтелекту важливість таких технологій безпеки, як FHE, буде зростати. Вони не лише вирішують поточні проблеми безпеки, але й закладають основу для майбутньої ери потужного штучного інтелекту. На шляху до AGI технології безпеки, такі як FHE, більше не є варіантом, а є необхідною гарантією надійної роботи систем штучного інтелекту.