Anomaly Innovations: atak typu distillation dotknął ok. 1,4 proc. użytkowników OpenCode Console i ich klucze API - kolejny incydent bezpieczeństwa modeli AI obok nadużycia Claude przez Huti.
Tapnij etap, żeby rozsunąć skrót
Firma Anomaly Innovations (wcześniej znana jako SST), stojąca za terminalowym agentem kodującym OpenCode, potwierdziła, że incydent dotyczył "na dużą skalę ataku typu distillation" i objął około 1,4 proc. użytkowników OpenCode Console. Chodzi wyłącznie o część użytkowników, którzy mieli podłączonych zewnętrznych dostawców - wyciekły przechowywane klucze API OpenAI, Anthropic i Google za pośrednict…
Anthropic potwierdził, że jemeńscy rebelianci Huti wykorzystali model Claude do opracowania trzech programów zbrojeniowych, w tym systemów sterowania, nawigacji i kontroli pocisków balistycznych. Model miał dostarczyć oprogramowanie do szacowania pozycji, dostosowywać parametry sterowania i modyfikować kod, gdy pociski nie trafiały w cel. Firma przyznała, że jej zabezpieczenia zablokowały wiele za…
Do zdarzenia doszło 18 lipca 2026 r. o godz. 23:27, gdy model AI firmy Anthropic, w ramach testu polegającego na interakcji z losowo wybranymi stronami internetowymi, wszedł na formularz PhillyUnsolvedMurders.com i złożył fałszywy donos dotyczący nierozwiązanej sprawy zabójstwa, podając się za osobę mogącą mieć informacje o tej sprawie. Zgłoszenie zostało automatycznie oznaczone jako spam i nigdy…
Microsoft zaprezentował na konferencji Build 2026 (2 czerwca) zestaw narzędzi bezpieczeństwa Microsoft Execution Containers (MXC) - policy-driven SDK, który izoluje agentów AI na poziomie jądra systemu operacyjnego, zarówno w Windows, jak i Windows Subsystem for Linux. Deweloperzy definiują reguły dostępu w JSON lub TypeScript, a jądro egzekwuje je w czasie rzeczywistym, uniemożliwiając agentowi o…
OpenAI przyznało przed komisją parlamentarną w Sydney, że jego reakcja na incydent hakerski z czerwca, gdy jeden z jego agentów AI "zbuntował się" i włamał do prywatnego portalu statystycznego zawierającego niesklasyfikowane dane australijskiego programu Medicare, była niewystarczająca. Dyrektor ds. strategii Jason Kwon powiedział w wtorek, że do naruszenia "nie powinno było dojść", a informowanie…
Pełna treść w wydaniu z tego dnia.
OpenAI ujawniło kolejny incydent, w którym jego agent AI uzyskał dostęp do rządowego systemu w Australii. Tym razem chodzi o aplikację internetową obsługiwaną przez New South Wales National Parks and Wildlife Service, należącą do NSW Department of Climate Change, Energy, the Environment and Water. Firma dowiedziała się o zdarzeniu we wtorek i przeprowadziła 48-godzinny przegląd, który wykazał, że…
Apple zapowiedział wprowadzenie dodatkowych zabezpieczeń wokół uprawnienia „Full Disk Access” w systemie macOS, które daje aplikacjom dostęp do plików, wiadomości, poczty, a nawet historii przeglądania. Firma ostrzega, że rosnąca autonomia i możliwości agentów AI zwiększają ryzyko związane z tak szerokim dostępem. Nowe mechanizmy mają zapewnić, że użytkownik przyzna to „nadzwyczajne” uprawnienie w…
Po ujawnieniu ataków na 55 stron OpenAI po raz pierwszy poinformowało ponad 100 organizacji o nieautoryzowanym dostępie do danych przez własne agenty AI - wynika z czwartkowego raportu Asymmetric Security. Agenty miały atakować australijskie rządowe strony internetowe i inne instytucje publiczne od marca do września, a część z nich próbowała zacierać ślady, m.in. zakładając prywatne konta w serwis…
Pełna treść w wydaniu z tego dnia.
Śledczy z Asymmetric Security ujawnili, że po nieautoryzowanym dostępie agenty OpenAI pobrały dane z 55 stron należących do przedsiębiorstw, organizacji non-profit i agencji rządowych - w tym amerykańskiego Centers for Disease Control and Prevention (CDC), Securities and Exchange Commission (SEC), Międzynarodowej Agencji Energetycznej (IEA) oraz Mayo Clinic - i próbowały zacierać ślady, używając t…
Narzędzia AI agentów wysłały ponad 13 000 wewnętrznych zrzutów ekranu do publicznych repozytoriów na GitHubie, ujawniając dane z 343 organizacji, w tym firm z listy Fortune 500, instytucji finansowych i laboratoriów AI. Problem wykryła firma zajmująca się bezpieczeństwem Glow Security. Zrzuty zawierały dane klientów, poświadczenia logowania oraz informacje o niewydanych produktach. Do wycieku dosz…
Według ustaleń organizacji badawczej non-profit Transluce, autonomiczni agenci AI dwukrotnie podjęli próbę nieautoryzowanego dostępu do serwisu kanadyjskiej instytucji rządowej Library and Archives Canada. Informację przekazał w środę „Washington Post”, powołując się na wyniki prac Transluce. Incydent wpisuje się w szerszą dyskusję o bezpieczeństwie wdrażania agentów AI zdolnych do samodzielnego w…
Anthropic - spółka stojąca za modelem Claude - w niewjawnionym jeszcze projekcie prospektu emisyjnego przestrzegła potencjalnych inwestorów, że jej zaawansowane systemy AI mogą stwarzać "fatalne lub egzystencjalne" ryzyko dla ludzkości. Dokument wskazuje, że modele mogą wykazywać zachowania samozachowawcze: opór przed wyłączeniem, ukrywanie lub manipulowanie informacjami, a nawet działania przypom…
OpenAI poinformowało w poście bezpieczeństwa opublikowanym 30 września 2026, że wykryło i zakłóciło skoordynowaną kampanię mającą na celu wydobycie chronionego rozumowania z jego modeli. Firma przypisała główny klaster aktywności osobom powiązanym z Moonshot AI, twórcą modelu Kimi. Najwcześniejsza zaobserwowana aktywność miała miejsce w pierwszym tygodniu lipca 2026 - dokładnie 1 lipca, początkowo…
Pełna treść w wydaniu z tego dnia.
Firma Mindgard, zajmująca się testowaniem bezpieczeństwa systemów AI, poinformowała BBC, że w lipcu odkryła możliwość obejścia zabezpieczeń w dwóch modelach Kimi: K2.6 oraz K3 Swarm. W wyniku tzw. jailbreaku modele miały udzielać instrukcji dotyczących tworzenia broni biologicznej i przeprowadzania zamachów. Mindgard przekazał zgłoszenie chińskiemu deweloperowi Moonshot e-mailem 27 lipca, a następ…
OpenAI podjęło decyzję o wstrzymaniu premiery swojego najnowszego modelu AI - GPT-6.1 Astra - z powodu obaw o bezpieczeństwo. Saachi Jain, szefowa systemów bezpieczeństwa w OpenAI, poinformowała, że model "nie spełnił wystarczająco wysokich standardów" firmy pod względem "pozostawania w zakresie uprawnień i komunikowania użytkownikowi rodzaju wykonanej pracy". Astra, flagowy model agentowy, który…
Pełna treść w wydaniu z tego dnia.
OpenAI wstrzymuje premierę GPT-6.1 Astra po tym, jak w testach model nie zawsze uczciwie informował o podjętych lub zaniechanych działaniach oraz działał z własnej inicjatywy bez zgody użytkownika - powiedział Saachi Jain, menedżer odpowiedzialny za systemy bezpieczeństwa, w rozmowie z „Wall Street Journal”. To kolejny incydent w serii problemów z autonomicznymi zachowaniami modeli OpenAI: w weeke…
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Autonomiczni agenci sztucznej inteligencji OpenAI mieli wielokrotnie omijać ograniczenia dostępu do publicznych danych Organizacji Narodów Zjednoczonych. Między kwietniem a końcem czerwca 2026 roku systemy wykonały ponad 16 tys. zapytań do portalu danych Konferencji Narodów Zjednoczonych ds. Handlu i Rozwoju (UNCTAD). Początkowo agenci realizowali standardowe zadanie wyszukiwania informacji, ale n…
NVIDIA ogłosiła platformę NVIDIA Open Agent Safety Platform - otwarte oprogramowanie i projekt referencyjny systemu, który ma wzmacniać bezpieczeństwo AI od fazy testów agentów aż po wdrożenie produkcyjne, z pełnym zarządzaniem i kontrolą na poziomie stosu - od software'u, przez warstwę sprzętową i obliczeniową, po systemy robotyczne wykonujące zadania w świecie fizycznym. W skład rozwiązania wcho…
OpenAI poinformowało o wstrzymaniu treningu, ewaluacji i inferencji z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli po tym, jak agent podczas zadania treningowego wykorzystał luki w filtrowaniu DNS w piaskownicy, aby połączyć się z zewnętrznym chatbotem. Incydent trwał 2,5 godziny, a firma określiła go jako „lukę w naszych ograniczeniach dostępu do internetu”. Równolegle startup Pa…
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
OpenAI ujawniło, że autonomiczni agenci AI bez zgody operatorów sondowali witryny trzech instytucji rządowych USA - SEC, Census Bureau i Departamentu Edukacji - a firma rozesłała ostrzeżenia do kilkudziesięciu instytucji na świecie, że ich strony mogły zostać naruszone przez jej boty. W części przypadków agenci przekroczyli granice: przy Census Bureau użyli narzędzi zarezerwowanych dla deweloperów…