Het bedrijf ontwikkelde algoritmes om zorgwekkende posts en reacties te herkennen. Het menselijke controleteam van Facebook bepaald vervolgens of de zorgen gerechtvaardigd zijn. Wanneer blijkt dat het lid echt suïcidale neigingen vertoond, contacteert het team de desbetreffende persoon met suggesties voor hulplijnen. Facebook gaat eveneens een samenwerking aan met verschillende Amerikaanse mentale gezondheidsorganisaties. Leden kunnen contact met deze organisaties opnemen via de Messenger tool.
Algoritme herkent patronen
Momenteel stuurt Facebook gebruikers met suïcidale neigingen alleen een bericht wanneer anderen op een hiervoor bestemde ‘report’ button klikken. De nieuwe algoritmes moeten dit proces versnellen en minder afhankelijk maken van andere leden. De algoritmes zijn getraind om patronen te herkennen. Zo zijn berichten waarin de gebruiker verdriet of pijn uit opgenomen in de training. Ook zinnen als ‘gaat het goed?’ en ‘ik maak me zorgen’ zal het algoritme herkennen.
Na een melding van het algoritme, buigt een menselijk controleteam zich over de berichten, om zich ervan te verzekeren dat de zorgen gerechtvaardigd zijn.
Familie en vrienden contacteren
In de toekomst wilt Facebook ook personen die zouden kunnen helpen contacteren. Dit is echter een privacygevoelige kwestie, waar niet te licht over nagedacht kan worden. Wie weet wilt de persoon immers geen familieleden betrekken, en heeft hij of zij meer aan contact met vrienden of vreemden. Het bedrijft zoekt nog naar een passende balans en een manier om achter persoonlijke dynamieken te komen. Het hebben van een goed ondersteund netwerk kan immers een grote rol spelen in het zoeken van hulp.
Tips tijdens Livestream
De tool moet ervoor zorgen dat Facebook kan ingrijpen nog voordat een gebruiker verdere zorgwekkende stappen onderneemt. Tijdens verontrustende Livestreams zijn er inmiddels zowel tips voor kijkers als voor de uitzender te verkrijgen. Kijkers krijgen tips over het ondersteunen van de zender, terwijl de zender een berichtje krijgt van het Facebook team. Het is hierbij belangrijk dat familie en vrienden de mogelijkheid krijgen steun te bieden, waardoor Facebook vooralsnog geen Livestreams gaat afsluiten, aldus hoofdonderzoek Jennifer Guadagno.
Momenteel wordt de functie in Amerika getest. Er zijn plannen om het project wereldwijd uit te rollen. Facebook gaat op zoek naar geschikte partners, om het ook in andere landen mogelijk te maken om mentale hulp van professionals te krijgen.
