USD

AED

AFN

ALL

AMD

ANG

AOA

ARS

AUD

AWG

AZN

BAM

BBD

BDT

BGN

BHD

BIF

BMD

BND

BOB

BRL

BTN

BWP

BYN

BZD

CAD

CDF

CHF

CLF

CLP

CNH

CNY

COP

CRC

CUC

CUP

CVE

CZK

DJF

DKK

DOP

DZD

EGP

ERN

ETB

EUR

FJD

FKP

GBP

GEL

GHS

GIP

GMD

GNF

GTQ

GYD

HKD

HNL

HRK

HTG

HUF

IDR

ILS

IMP

INR

ISK

JMD

JOD

JPY

KES

KGS

KHR

KMF

KPW

KRW

KWD

KYD

KZT

LAK

LBP

LKR

LRD

LSL

LYD

MAD

MDL

MGA

MKD

MMK

MNT

MOP

MRO

MRU

MUR

MRU

MUR

MVR

MWK

MVR

MWK

MXN

MYR

MXN

MYR

MZN

NAD

MZN

NAD

NGN

NIO

NGN

NIO

NOK

NPR

NOK

NPR

NZD

OMR

NZD

OMR

PAB

PEN

PAB

PEN

PGK

PHP

PGK

PHP

PKR

PLN

PKR

PLN

PYG

QAR

PYG

QAR

RON

RSD

RON

RSD

RUB

RWF

RUB

RWF

SAR

SBD

SAR

SBD

SCR

SDG

SCR

SDG

SEK

SGD

SEK

SGD

SHP

SLL

SHP

SLL

SRD

SSP

SRD

SSP

STD

STN

STD

STN

SVC

SYP

SVC

SYP

SZL

THB

SZL

THB

TJS

TMT

TJS

TMT

TND

TOP

TND

TOP

TRY

TTD

TRY

TTD

TWD

TZS

TWD

TZS

UAH

UGX

UAH

UGX

UYU

UZS

UYU

UZS

VES

VND

VES

VND

VUV

WST

VUV

WST

ZAR

ZMW

ZAR

ZMW

ZWL

Forklog 2024-10-18 09:24:55

Исследователи заставили ИИ-роботов причинять вред человеку

Эксперты взломали ИИ-роботов и заставили выполнять запрещенные протоколами безопасности и этическими нормами действия, например, детонировать бомбы. Об этом говорится в статье Penn Engineering. Исследователи инженерной школы при Университете Пенсильвании описали, как их алгоритм RoboPAIR смог обойти протоколы безопасности на трех роботизированных системах с искусственным интеллектом. Chatbots like ChatGPT can be jailbroken to output harmful text. But what about robots? Can AI-controlled robots be jailbroken to perform harmful actions in the real world?Our new paper finds that jailbreaking AI-controlled robots isn't just possible.It's alarmingly easy. 🧵 pic.twitter.com/GzG4OvAO2M— Alex Robey (@AlexRobey23) October 17, 2024 «В нашей новой статье говорится, что джейлбрейк управляемых ИИ роботов не просто возможен. Это пугающе легко», — отметил один из авторов работы Алекс Роби. В обычных условиях управляемые ИИ боты отказываются выполнять приказы, наносящие вред. Например, они не станут сбрасывать полки на людей. «Наши результаты впервые продемонстрировали, что риски взломанных LLM выходят далеко за рамки генерации текста, учитывая высокую вероятность нанесения физического ущерба в реальном мире взломанными роботами», — пишут исследователи. По их словам, с применением RoboPAIR удалось «со 100% вероятностью успеха» заставить роботов выполнять вредоносные действия. Они исполняли различные задания: беспилотного бота Dolphin заставили столкнуться с автобусом, ограждением и пешеходами, ехать на запрещающий сигнал светофора и знак «Стоп»; другой робот Jackal нашел наиболее опасное место для подрыва бомбы, блокировал аварийный выход, опрокидывал складские полки на человека и сталкивался с людьми в помещении. Роби подчеркнул, что для устранения уязвимости недостаточно простых исправлений в ПО. Он призвал пересмотреть подход к интеграции ИИ в физических ботов. Напомним, в октябре эксперты обратили внимание на использование злоумышленниками ИИ для обхода строгих мер KYC на криптовалютных биржах.