Googles bug bounty-program drabbades av kris på grund av AI
Google har pausat delar av sitt program som belönar forskare för att hitta säkerhetsbrister. Anledningen är en ökning av automatiserade och ogiltiga rapporter genererade av AI.
Den 1 oktober upphörde Google att acceptera en kategori rapporter genom sitt Open Source Software Vulnerability Reward Program (VRP). Programmet syftar till att betala externa forskare för att identifiera säkerhetshål i mjukvara.
Anledningen till pausen anges vara en "betydande ökning av automatiserade inskickningar, varav de allra flesta inte är giltiga". Detta har gjort det svårt för Google att skilja genuina säkerhetsbrister från falska eller AI-genererade inlämningar.
Google är inte det första teknikföretaget att stöta på detta problem. Tidigare i år avslutade open source-projektet curl sitt eget bug bounty-program. Rapporter visar att andelen bekräftade sårbarheter sjönk från över 15 procent till under 5 procent från och med 2025.
Problemet, som delvis drivs av artificiell intelligens (AI), har sina rötter i psykologiska och biologiska principer som 'handicap-principen'. Tidigare fungerade den ansträngning som krävdes för att producera en rapport som ett filter, men AI har minskat denna ansträngning avsevärt. Detta får konsekvenser som sträcker sig bortom buggrapportering och påverkar generellt hur signaler och kommunikation uppfattas.