Все ощеoneТова, което някога е било невъобразимо, сега е реалност. Стартъп компанията PrismML представи нов езиков модел, Bonsai 27B, който според създателите му е първият модел с такъв размер, който работи директно на iPhone без нужда от... cloudАко твърденията на компанията бъдат потвърдени, това може да бъде значителна стъпка към по-мощен изкуствен интелект директно на мобилни устройства.
Може да се интересувате от
Успехът се дължи на изключителната компресия на модела. Докато конвенционален модел с 27 милиарда параметъра заема десетки гигабайта памет, PrismML успя да я намали до приблизително 4 GB благодарение на собствената си 1-битова технология. Именно затова се предполага, че се вписва в ограниченията на паметта на съвременните iPhone-и и работи напълно локално, без да е необходимо да изпраща данни до отдалечени сървъри. Това означава не само по-висока скорост на реакция, но и по-добра защита на поверителността.
Фото галерия
Според PrismML, моделът поддържа разширено разсъждение, инструменти, мултимодален вход и агентни функции. Компанията го предлага в два варианта. variantách – 1-битова версия, оптимизирана за телефони, и тройна версия, предназначена предимно за по-мощни компютри. На устройства Applu използва MLX framework, което му позволява да работи директно на iPhone, iPad и Mac. Цялата тема е още по-интересна, защото PrismML също попадна в светлината на прожекторите през последните дни поради Appлу. Главният изпълнителен директор на компанията Бабак Хасиби заяви пред CNBC, че Apple В момента той оценява технологията на стартъпа и тества нейната скорост, енергийна ефективност и цялостна производителност. Той обаче подчерта, че преговорите все още са в ранен етап и не е сигурно дали ще доведат до някакво сътрудничество. Apple не е коментирал официално въпроса.
Може да се интересувате от
Ако обаче технологията PrismML действително се използва в бъдещите iPhone-и, тя би могла значително да разшири възможностите. Apple IntelligenceПо-мощните модели биха могли да работят директно на телефона, без да използват cloudсървъри, което би донесло не само по-висока производителност, но и по-ниска латентност и дори по-добра защита на поверителността на потребителите. Дали това действително ще се случи, ще видим едва през следващите месеци. Лично аз смятам, че точно това би могъл да бъде пътят за Apple изключително интересно, като се има предвид, че би 100% гарантирана поверителност на потребителите, като се гарантира, че данните ви винаги ще бъдат на телефона ви.
