Det var i helgen som den amerikanska tech-profilen Byrne Hobart, bosatt i Austin, Texas, delade med sig av en ovanlig incident på plattformen X. Enligt Hobart accepterade ett bud hans beställning för att omedelbart därefter markera den som levererad.
Som bevis laddade budet upp en bild föreställande en matkasse utanför Hobarts dörr. Vid närmare granskning visade det sig dock att bilden var genererad av artificiell intelligens och att ingen leverans hade skett.
Manipulerad GPS och kapade konton
Enligt uppgifter till TechCrunch har DoorDash bekräftat händelsen. Bolaget uppger att de efter en utredning stängt av föraren permanent och kompenserat kunden.
Vi har nolltolerans mot bedrägerier och använder en kombination av teknik och mänsklig granskning för att upptäcka och förhindra att aktörer missbrukar vår plattform, uppger en talesperson för TechCrunch.
Teorin bakom tillvägagångssättet, som Hobart redogör för, är att bedragare använder kapade förarkonton på så kallade jailbreakade telefoner. Genom att manipulera GPS-positionen kan systemet luras att tro att budet befinner sig vid restaurangen och kundens hem, trots att personen kan befinna sig i en helt annan stad.
För att skapa den falska bevisbilden misstänks bedragaren ha hämtat foton på kundens dörr från DoorDashs historik över tidigare genomförda leveranser, för att sedan bearbeta dessa med AI. Syftet med bedrägeriet antas vara att snabbt genomföra falska körningar och begära direktutbetalning innan plattformen hinner spärra kontot.