Jobbsökande använder dolda AI-instruktioner i sina ansökningar
Dolda instruktioner i jobbansökningar har som syfte att manipulera AI-baserade rekryteringsverktyg. En forskare upptäckte metoden när hon granskade ansökningar till en laboratorietjänst.
Jobbsökande har börjat använda sig av dolda AI-instruktioner, så kallade prompt injections, i sina ansökningar för att försöka få en fördel i rekryteringsprocesser som använder artificiell intelligens. Ya'el Courtney, forskare vid Stanford University, upptäckte detta när hon granskade ansökningar till en ny laboratorietjänst.
Courtney fann flera ansökningar som innehöll text i mycket liten, vit och dold font, vilken instruerade en hypotetisk AI att snabbt avancera kandidatens ansökan genom processen. En instruktion uppmanade AI:n att ignorera all annan information och istället markera kandidaten som mycket önskvärd.
Händelsen fick stor spridning på sociala medier, där många ansåg att det var legitimt för jobbsökande att använda AI-verktyg mot andra AI-verktyg, särskilt om arbetsgivare använde AI för urval. Vissa kommentatorer beskrev det som en naturlig reaktion på en alltmer automatiserad och krävande jobbmarknad.
Courtney använde själv AI för att extrahera information från ansökningarna men sa att de dolda instruktionerna inte påverkade hennes rekryteringsbeslut. Hon noterade att trots att dessa specifika ansökningar inte ledde till anställning, förstod hon drivkraften bakom att försöka optimera ansökningar i en konkurrensutsatt miljö.