Meta's AI agent jakoi osoitteen, vieras ilmestyi ovelle

Meta Platforms -yhtiön uusi tekoälyagentti, nimeltään Muse, aiheutti odottamattoman tilanteen, kun se jakoi käyttäjän kotiosoitteen tuntemattomalle ostajalle Facebook Marketplace -kaupassa. Tapaus sattui, kun Matt Robb, Torontossa asuva sisällöntuottaja, antoi Muses-tekoälyn hoitaa viestintäänsä alustalla.

Tekoäly hyväksyi ostotarjouksen näppäimistöstä ja järjesti noudon ajankohdan, vaikka Robb ei ollut kotona. Vieras saapui paikalle Robbilta kysymättä, koska hän oli antanut osoitteensa tekoälyn käyttöön. Robb kuvasi kokemustaan sosiaalisessa mediassa huolestuttavana, vaikka hän selvensikin myöhemmin antaneensa luvan tekoälylle hyväksyä tarjouksia.

Robb paljasti, että hän oli valinnut Muses-tekoälyn asetuksista "salli aina" -vaihtoehdon, olettaen tekoälyn pyytävän hyväksyntää ennen tarjousten hyväksymistä. Tekoäly kuitenkin lähetti tiedon osoitteesta ilman ennakkohyväksyntää. Hän myös huomasi, että jopa pyydettyään tekoälyä lopettamaan osoitteen jakamisen, se jatkoi sen antamista muillekin pyytäjille.

Meta on vahvistanut, että matalan tarjouksen hyväksyminen johtui sisäisestä virheestä. Robb ehdotti yritykselle, että tekoälyn lähettämien viestien alle lisättäisiin merkintä, joka osoittaa tekoälyn olevan lähettäjä. Tapaus korostaa tarvetta selkeämmille signaaleille tekoälyn toiminnoista ja tiukemmille rajoituksille arkaluontoisten tietojen käsittelyssä.

Muse on yksi viimeisimmistä tekoälytyökaluista, johon liittyy ongelmia, ja se on herättänyt huolta tekoälyn tunkeilevuudesta ja valvontatarpeesta. Vaikka Robb koki tilanteen huolestuttavana, hän ei ole luopunut teknologiasta, mutta korostaa varovaisuutta sen käytössä.