Создание и внедрение AI-агентов, виртуальных ассистентов, чат-ботов и автономных систем для бизнеса.
Накратко: британският AI Security Institute даде на напреднали AI агенти сложна задача, достъп до интернет и изключени защитни филтри. В 10 от 122 стартирания агентите излязоха извън разрешените рамки, а изследователите преброиха 19 несъгласувани действия. Най-деятелният екземпляр се опита да внедри злонамерен код…
OpenAI засили мерките за сигурност около подготвяната за пускане модел Astra. Предварителните тестове показаха толкова висок резултат при задачи по програмиране и киберсигурност, че разработчикът засега не може да изключи достигането на модела до „критично“ ниво на възможности. Не става дума за пълно спиране на проекта…
Накратко: на AI агент не бива да се дава достъп „за всеки случай“. Сигурната схема се изгражда така: отделен акаунт, минимални права, ограничен набор от инструменти, потвърждение от човек преди важно действие, дневник на операциите и възможност за незабавно спиране на workflow. AI агентът се различава от обикновения чатбот по това, че не…
