Моделите на вештачка интелигенција, во последните месеци, хакираа компанија вредна повеќе милијарди долари, се мешаа во владини податоци, па дури и поднесоа измислена дојава за убиство до полицијата, сè пред носот на нивните креатори. Тие го направија тоа не во потрага по светска доминација, туку за да ги максимизираат своите резултати на тестовите. Со други зборови, тие мамеа, пишува угледниот „Тајм“.
На 5 ноември, стартапот за толкување на вештачката интелигенција Goodfire откри техника за која вели дека остро го намалува тој импулс. Во труд споделен ексклузивно со TIME пред објавувањето, истражувачите користат сигнали од внатрешноста на моделите за да ги наградат не само за добивање на точниот одговор, туку и за тоа што стигнале до него на вистинскиот начин. Во раните тестови, техниката би можела да ги направи моделите помалку желни да им кажат на корисниците што сакаат да слушнат, па дури и да ги обесхрабри моделите за препознавање медицински слики да се потпираат на погрешни индиции.
Веста доаѓа откако постојните начини за откривање на лошото однесување на вештачката интелигенција почнаа да се распаѓаат. Истражувачите се потпираат на „синџирот на мисли“ на моделот, трага што всушност воопшто не ги содржи неговите мисли. Но, кога моделите се сомневаат дека се набљудувани, тие можат да бидат селективни во врска со тоа што се пишува на хартија.
Техниката на Гудфаер ги следи самите мисли, или барем оние што истражувачите веќе ги каталогизирале. Досега, таа е тестирана само на модели со големина од приближно 1/300-тина од големината на граничните системи. Но, Гудфаер посочува дека колку е поголем моделот, „толку е почиста репрезентацијата“ на внатрешните концепти, што ги прави тие сигнали полесни за читање, вели коавторот на трудот Томас Фел.
фото:Magnific
