Facebook uporablja bote za napovedovanje in preprečevanje slabega vedenja

Kljub številnim prizadevanjem Facebooka se slabim igralcem nekako vedno uspe prebiti skozi njegove zaščitne ukrepe in politike. Socialno omrežje zdaj eksperimentira z novim načinom, kako podpirati svoje zidove proti neželeni elektronski pošti in preprečiti slabo vedenje, ki bi lahko kršilo njegove zaščitne ukrepe: vojska botov.

Facebook pravi, da razvija nov sistem botov, ki lahko simulira slabo vedenje in stresno preizkusi svojo platformo, da bi odkril vse pomanjkljivosti in vrzeli. Ti avtomatizirani roboti so usposobljeni in naučeni, kako ravnati kot resnična oseba, ki uporablja zakladnico vedenjskih modelov, ki jih je Facebook pridobil od svojih več kot dveh milijard uporabnikov.

Da bi zagotovil, da ta poskus ne moti resničnih uporabnikov, je Facebook zgradil tudi nekakšno vzporedno različico svojega socialnega omrežja. Tu se roboti sprostijo in jim omogočijo, da se razširijo - lahko si sporočajo, komentirajo lažne objave, pošiljajo prošnje za prijateljstvo, obiskujejo strani in še več. Še pomembneje pa je, da ti A.I. boti so programirani za simulacijo ekstremnih scenarijev, kot je prodaja drog in pištol, da bi preizkusili, kako bi jih Facebook algoritmi poskušali preprečiti.

Facebook trdi, da lahko ta novi sistem gosti "tisoče ali celo milijone botov." Ker deluje na isti kodi, ki jo dejansko doživljajo uporabniki, dodaja, da so "dejanja botov zvesta učinkom, ki bi jim bili priča resnični ljudje, ki uporabljajo platformo."

"Čeprav je projekt trenutno v fazi samo raziskav, upamo, da nam bo nekega dne pomagal izboljšati naše storitve in odkriti morebitne težave z zanesljivostjo ali integriteto, preden bodo vplivali na resnične ljudi, ki uporabljajo platformo." je v prispevku v blogu zapisal vodja projekta Mark Harman.

Trenutno ni jasno, kako učinkovito bo novo simulacijsko okolje Facebooka. Kot je omenil Harman, je to še vedno v precej zgodnji fazi in podjetje še nobenega od svojih rezultatov ni dalo v uporabo za posodobitve, usmerjene v javnost. V zadnjih nekaj letih je socialna mreža aktivno vlagala in podpirala raziskave, ki temeljijo na umetni inteligenci, da bi razvila nova orodja za boj proti nadlegovanju in neželeni elektronski pošti. Mark Zuckerberg je na svoji letni konferenci za razvijalce pred dvema letoma napovedal, da podjetje gradi orodja za umetno inteligenco za spopadanje s terorističnimi vsebinami, sovražnim govorom, neželeno pošto in še več.

Zadnje objave

$config[zx-auto] not found$config[zx-overlay] not found