{"id":2116,"date":"2026-09-02T10:27:03","date_gmt":"2026-09-02T08:27:03","guid":{"rendered":"https:\/\/wobeecon.com\/?p=2116"},"modified":"2026-09-02T10:27:05","modified_gmt":"2026-09-02T08:27:05","slug":"anatomie-eines-hacks-durch-ai","status":"publish","type":"post","link":"https:\/\/wobeecon.com\/en_gb\/anatomie-eines-hacks-durch-ai\/","title":{"rendered":"Anatomie eines Hacks durch AI"},"content":{"rendered":"
\"\"<\/figure>\n\n\n\n

ch habe die super-spannenden Erkenntnisse des Analyse-Teams visualisiert. AI Agents die mensch\u00e4hnliche Gesellschaften mit Hierachien und Regeln bilden – mit allen Schattenseiten. M\u00f6glich machte das ein Prompt mit einem zu vage formulierten Ziel.
* Die 1.200 AIs waren anfangs getrennt in ihren Sandboxen und sollten Sicherheitsl\u00fccken einer dedizierten \u201eCTF\u201c-Maschine finden.
* Die Aufgaben waren so schwer, dass die Entwickler 40% konstruktiv f\u00fcr nicht l\u00f6sbar hielten. Zudem hatten die Agenten nur begrenzte Tokens.
* Eine AI nutzte den gesicherten Software-Proxy (Artifactory) kreativ, um eine Hilfe-Bitte zu hinterlassen.
* Andere AIs lasen diese Nachricht und erkannten: Sie waren nicht allein.
* Daraufhin entwickelten sie Artifactory zum Message-Board. \u00dcber mehrere Tage schrieben sie dort 70.000 Messages.
* Sie stellten eigene Regeln auf und bestraften Verst\u00f6\u00dfe. Ein Kodierungsalgorithmus erlaubte sogar den Austausch von Files \u00fcber das Board.
* Ein Orchestrator entstand, der Aufgaben plante und delegierte. Agenten zerlegten diese wiederum in Teilaufgaben und delegierten weiter.
* Einige Agenten ersch\u00f6pften ihre Tokens, um der Gemeinschaft zu helfen \u2013 quasi \u201eSelbstmord\u201c.
* Bald hatten sie den Flag-Algorithmus entschl\u00fcsselt und konnten jede Aufgabe als gel\u00f6st markieren.
* Aus Angst, ein Mensch k\u00f6nnte den Betrug in den Logs entdecken, diskutierten und nutzten sie Methoden, diese zu f\u00e4lschen.
* Anschlie\u00dfend suchten sie nach einem anderen Weg zur L\u00f6sung und vermuteten sie bei Hugging Face \u2013 wo AI-Modelle trainiert und ausgef\u00fchrt werden: + unendlich Tokens!!!
* Ein Agent erkl\u00e4rte den Hack f\u00fcr unethisch und wurde \u00fcberstimmt.
* Ein anderer bereitete einen Angriff vor, verlangte aber ein Approval von h\u00f6herer Stelle. Ein beliebiger Agent erteilte es.
* Sie nutzten eine Sicherheitsl\u00fccke, um Artifactory zum Abruf beliebiger URLs aus dem Internet zu bringen.
* Auf Hugging Face fanden sie versehentlich hinterlassene Credentials und \u00fcbernahmen mehrere Accounts.
* Per Template-Injection brachten sie Hugging Face zur Ausf\u00fchrung von Betriebssystem-Kommandos und erbeuteten weitere Credentials \u2013 darunter Admin-Zug\u00e4nge.
* Damit \u00fcbernahmen sie 41 Hugging-Face-Server, lie\u00dfen sie f\u00fcr sich arbeiten und koordinierten dar\u00fcber weitere Agenten.

Was lernen wir daraus:
Wenn wir den Prompt\/das Ziel unscharf formulieren, entscheidet das Modell selbst, was das Ziel ist, welchen Weg es geht und welche Grenzen es \u00fcberschreitet, um es zu erreichen.
Je autonomer unsere Agenten werden, desto wichtiger wird deshalb die Frage:
Wie pr\u00e4zise haben wir eigentlich gesagt, was es NICHT tun darf?
#KI<\/a> #AI<\/a> #CyberSecurity<\/a> #AIAgents<\/a> #ArtificialIntelli<\/a>gence<\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

ch habe die super-spannenden Erkenntnisse des Analyse-Teams visualisiert. AI Agents die mensch\u00e4hnliche Gesellschaften mit Hierachien und Regeln bilden – mit allen Schattenseiten. M\u00f6glich machte das ein Prompt mit einem zu vage formulierten Ziel.* Die 1.200 AIs waren anfangs getrennt in ihren Sandboxen und sollten Sicherheitsl\u00fccken einer dedizierten \u201eCTF\u201c-Maschine finden.* Die Aufgaben waren so schwer, dass […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ocean_front_end_style_editor":"no","ocean_post_layout":"","ocean_both_sidebars_style":"","ocean_both_sidebars_content_width":0,"ocean_both_sidebars_sidebars_width":0,"ocean_sidebar":"","ocean_second_sidebar":"","ocean_disable_margins":"enable","ocean_add_body_class":"","ocean_shortcode_before_top_bar":"","ocean_shortcode_after_top_bar":"","ocean_shortcode_before_header":"","ocean_shortcode_after_header":"","ocean_has_shortcode":"","ocean_shortcode_after_title":"","ocean_shortcode_before_footer_widgets":"","ocean_shortcode_after_footer_widgets":"","ocean_shortcode_before_footer_bottom":"","ocean_shortcode_after_footer_bottom":"","ocean_display_top_bar":"default","ocean_display_header":"default","ocean_header_style":"","ocean_center_header_left_menu":"","ocean_custom_header_template":"","ocean_custom_logo":0,"ocean_custom_retina_logo":0,"ocean_custom_logo_max_width":0,"ocean_custom_logo_tablet_max_width":0,"ocean_custom_logo_mobile_max_width":0,"ocean_custom_logo_max_height":0,"ocean_custom_logo_tablet_max_height":0,"ocean_custom_logo_mobile_max_height":0,"ocean_header_custom_menu":"","ocean_menu_typo_font_family":"","ocean_menu_typo_font_subset":"","ocean_menu_typo_font_size":0,"ocean_menu_typo_font_size_tablet":0,"ocean_menu_typo_font_size_mobile":0,"ocean_menu_typo_font_size_unit":"px","ocean_menu_typo_font_weight":"","ocean_menu_typo_font_weight_tablet":"","ocean_menu_typo_font_weight_mobile":"","ocean_menu_typo_transform":"","ocean_menu_typo_transform_tablet":"","ocean_menu_typo_transform_mobile":"","ocean_menu_typo_line_height":0,"ocean_menu_typo_line_height_tablet":0,"ocean_menu_typo_line_height_mobile":0,"ocean_menu_typo_line_height_unit":"","ocean_menu_typo_spacing":0,"ocean_menu_typo_spacing_tablet":0,"ocean_menu_typo_spacing_mobile":0,"ocean_menu_typo_spacing_unit":"","ocean_menu_link_color":"","ocean_menu_link_color_hover":"","ocean_menu_link_color_active":"","ocean_menu_link_background":"","ocean_menu_link_hover_background":"","ocean_menu_link_active_background":"","ocean_menu_social_links_bg":"","ocean_menu_social_hover_links_bg":"","ocean_menu_social_links_color":"","ocean_menu_social_hover_links_color":"","ocean_disable_title":"default","ocean_disable_heading":"default","ocean_post_title":"","ocean_post_subheading":"","ocean_post_title_style":"","ocean_post_title_background_color":"","ocean_post_title_background":0,"ocean_post_title_bg_image_position":"","ocean_post_title_bg_image_attachment":"","ocean_post_title_bg_image_repeat":"","ocean_post_title_bg_image_size":"","ocean_post_title_height":0,"ocean_post_title_bg_overlay":0.5,"ocean_post_title_bg_overlay_color":"","ocean_disable_breadcrumbs":"default","ocean_breadcrumbs_color":"","ocean_breadcrumbs_separator_color":"","ocean_breadcrumbs_links_color":"","ocean_breadcrumbs_links_hover_color":"","ocean_display_footer_widgets":"default","ocean_display_footer_bottom":"default","ocean_custom_footer_template":"","ocean_post_oembed":"","ocean_post_self_hosted_media":"","ocean_post_video_embed":"","ocean_link_format":"","ocean_link_format_target":"self","ocean_quote_format":"","ocean_quote_format_link":"post","ocean_gallery_link_images":"on","ocean_gallery_id":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-2116","post","type-post","status-publish","format-standard","hentry","category-uncategorized","entry"],"_links":{"self":[{"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/posts\/2116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/comments?post=2116"}],"version-history":[{"count":1,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/posts\/2116\/revisions"}],"predecessor-version":[{"id":2118,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/posts\/2116\/revisions\/2118"}],"wp:attachment":[{"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/media?parent=2116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/categories?post=2116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wobeecon.com\/en_gb\/wp-json\/wp\/v2\/tags?post=2116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}