Perché le app gay fanno fatica a fermare il pesce gatto?

Nel tentativo di affrontare profili falsi e truffatori, una popolare app di incontri gay prevede di offrire una sorta di badge “verificato” per identificare membri autentici. Hornet sarà il primo dei principali social network gay a consentire alle persone di guadagnare un distintivo di autenticità. L’obiettivo è quello di dare agli utenti più sicurezza di parlare con una persona reale. Ma anziché i moderatori che controllano l’ID, l’app utilizzerà gli algoritmi per decidere chi ottiene un badge. Quindi l’apprendimento automatico può risolvere i problemi che persistono nelle app di appuntamenti? Chiunque abbia utilizzato un’app di incontri gay avrà familiarità con i falsi. I messaggi arrivano da sconosciuti incredibilmente belli, spesso alla ricerca di foto intime o chat sexy. Questi cosiddetti profili di pesce gatto usano immagini rubate da famose star dei social media o attori di film per adulti. Attirano le persone in una conversazione, a volte cercando di organizzare date per le quali non si presentano mai. Nei casi più gravi cercano di frodare, ricattare o danneggiare le loro vittime. Quindi perché le app di appuntamenti gay non offrono un badge profilo “verificato”, come su Instagram o Twitter? Non è così semplice. “Non tutti vogliono o addirittura dovrebbero essere identificati”, ha dichiarato Eric Silverberg, amministratore delegato dell’app di appuntamenti Scruff, che compete con Hornet negli app store.

Le persone spesso creano profili nuovi, ripetuti o anonimi, per molte valide ragioni “, ha detto alla BBC. “Una volta che inizi a verificarne alcuni, crei una sorta di gerarchia sulla tua piattaforma che potrebbe portare a conseguenze indesiderate per le persone che non sono fuori dall’armadio.” vita privata Più di 70 paesi in tutto il mondo hanno leggi contro le persone LGBT. I controlli di identità creerebbero un elenco di “persone LGBT verificate” che potrebbero essere utilizzate da coloro che vogliono fare del male, compresi i governi. Inoltre solleverebbero barriere per coloro che esplorano la loro sessualità. Se la maggior parte degli utenti sceglie di verificare i propri profili, i nuovi arrivati ​​potrebbero trovare meno persone che parlano con loro se non hanno superato il processo di verifica. Hornet afferma che il suo sistema non prevede il controllo dell’ID. Al contrario, gli algoritmi valuteranno come le persone si comportano nell’app nel tempo. I profili giudicati autentici mostreranno un “badge Hornet” come indicatore di affidabilità. La società ha detto che non avrebbe rivelato esattamente come funziona l’algoritmo perché ciò potrebbe aiutare il pesce gatto a capire come ingannare il sistema. Ma l’amministratore delegato di Hornet Christof Wittig ha dichiarato alla BBC: “Guardiamo le persone e come guadagnano fiducia mentre interagiscono con la comunità. Richiede che le persone siano autentiche e interagiscano”. Analisi Hornet combina gli elementi sociali di app come Instagram con l’aspetto di incontro di app come Grindr. Il sistema di “verifica” analizzerà il modo in cui le persone utilizzano tali funzionalità, per valutare se l’attività sia coerente con utenti reali. Wittig ha sottolineato che l’algoritmo non esaminerebbe il contenuto dei messaggi privati. E poiché molte persone in paesi con leggi anti-LGBT non usano un selfie come immagine del profilo, il sistema non prevede nemmeno l’analisi delle immagini delle foto del profilo.

Naturalmente, i profili falsi possono essere molto convincenti: sono accuratamente realizzati per ingannare. Un profilo di pesce gatto potrebbe guadagnare un “badge Hornet” e aggiungere un segno di autenticità al suo profilo falso? “In teoria, sì”, ha dichiarato Wittig. “Ci sarà sempre quella persona che farà questo super sforzo extra, e ce ne saranno sempre alcuni. “Ma con questo sistema, la quantità di lavoro rispetto alla probabilità di cambiamenti della ricompensa. Stiamo rendendo un profilo falso molto costoso. Non possono più farlo su larga scala. “E anche allora, una volta che sai che qualcuno è un pesce gatto, il loro modello è meglio compreso. L’apprendimento automatico ha molti più dati per capire davvero come si comportano i pesci gatto.” Che dire dei membri che non vogliono un “badge Hornet” perché sono preoccupati di essere esposti per l’utilizzo di un’app LGBT? Wittig ha affermato che non sarebbe possibile rinunciare al sistema ma che i membri saranno comunque in grado di essere discreti sulla propria identità. “Le persone in alcuni paesi non mettono in scena un’immagine perché è così pericolosa, ma possono ancora essere verificate dal sistema”, ha dichiarato Wittig alla BBC. App rivali La BBC ha invitato le app rivali Grindr e Scruff a condividere le loro opinioni sui metodi di verifica degli utenti. Scruff ha detto alla BBC: “La domanda più grande è perché i cattivi attori continuano a proliferare su alcune piattaforme e la risposta arriva sempre a una cosa: la leadership”. “Abbiamo sempre dato la priorità alla moderazione e al supporto della comunità, perché stiamo costruendo un’app che noi stessi utilizziamo e condividiamo con i nostri amici e persone care. Quando le persone abusano della nostra piattaforma, reagiamo in modo rapido e deciso. “Abbiamo trascorso anni a sviluppare tecnologie avanzate per bloccare spammer, pescatori di gatti e altri cattivi attori”. Grindr deve ancora rispondere.

Leave a Reply

Your email address will not be published. Required fields are marked *