Facebook pratar gärna om sig självt som 2000-talets svar på tryckpressen: en uppfinning som länkar ihop människor och idéer med varandra. (Bolaget har vid andra tillfällen jämfört sociala medier och sig självt med telefoner, bilar, tidningar — och stolar!) Men Facebooks kritiker ser inget nobelt i dess vision. Cyniker pekar istället på likheten mellan Facebook och tobaksbolagen, som under lång tid gjorde vad de kunde för att trycka ut produkter man visste var farliga.
Så vad är sant? Är Facebook 2000-talets tryckpress eller ett modern tobaksbolag?
Vad har hänt?
Facebook har under åren varit med om många skandaler och fått mycket kritik, ofta kopplat till man censurerat eller begränsat antingen för få eller får många olämpliga inlägg. Även integritetsfrågor har varit känsligt, till exempel när analysföretaget Cambridge Analytica försökte individanpassa politisk annonsering utifrån användardata (tydligen utan någon större framgång). Andra debattörer, och filmen The Social Dilemma, har försökt visa på hur människor påverkas negativt av att använda sociala medier.
Och nu har bolaget hamnat i blåsväder igen. En före detta anställd, Frances Haugen, delade, såsom “visselblåsare”, interna dokument härom veckan som verkar visa att bolaget känt till ett antal allvarliga problem men försökt sopa dem under mattan. Förra veckan var hon kallad till amerikanska senaten för att vittna om sina iakttagelser. Hon hävdar att Facebook “skadar barn, sår split och försvagar demokratin”.
Även om bolaget tidigare erkänt att sociala medier kan ha negativ påverka (utöver alla positiva effekter, förstås) var det en nyhet att man hade så konkret data på effekter, som man heller inte försökt motverka. Det kanske mest känsliga är anklagelsen att Facebook, genom Instagram som man äger, bidrar till mental ohälsa hos en utsatt grupp, tonårstjejer.
The old story was: social networks can have both positive and negative effects, but at Facebook on balance the effects are mostly positive, and the company is working hard to reduce any harms it finds.
The new story is: Facebook knew much more about these negative effects than it ever disclosed, it ignored or undermined the researchers who discovered them, and its apps now appear to be contributing to an array of mental health issues, particularly for younger users.
Interna dokument visar att tonårstjejer med en skev kroppsbild mår sämre av att använda Instagram. Av de som mår dåligt tycker 32% att Instagram gör det sämre, jämfört med 22% som tycker att det blir bättre.
Är det ett problem att en mindre grupp får det sämre av att använda appen, när så många andra inte påverkas eller får det bättre? Som Haugen påpekade: bara 10-20% av alla rökare får lungcancer, men det ses ändå som så stort problem att cigaretter regleras kraftigt. Om en mindre andel tonårstjejer mår psykiskt sämre av att använda Instagram är det fortfarande ett problem som borde adresseras för dem:
About a year ago, teenager Anastasia Vlasova started seeing a therapist. She had developed an eating disorder, and had a clear idea of what led to it: her time on Instagram.
She joined the platform at 13, and eventually was spending three hours a day entranced by the seemingly perfect lives and bodies of the fitness influencers who posted on the app.
“When I went on Instagram, all I saw were images of chiseled bodies, perfect abs and women doing 100 burpees in 10 minutes,” said Ms. Vlasova, now 18, who lives in Reston, Va.
Instagram klarar sig också sämre än konkurrenterna. En av huvudanledningarna verkar vara att Instagram kretsar mer kring skönhet och mode, och fokus ligger på kändisar med perfekta kroppar. På Snapchat handlar det mer om att utbyta bilder med kompisar snare än att följa Kim Kardashians upptåg, och filter gör bilderna mer lekfulla. Och TikTok kretsar kring underhållning och spexande, snarare än ouppnåeliga kroppsliga ideal.
De läckte dokumenten har också visat på andra problem, t.ex. att bolagets armé av innehållsgranskare är alltför fokuserade på engelska, något som gjorde det möjligt i för karteller i Mexiko att rekrytera gängmedlemmar via Facebook, eller att appen kunnat användas för att förbereda etnisk rensning av minoriteter i Myanmar.
Vad vill Facebook?
Haugen är noga med att betona att hon inte anser att hennes före detta kollegor har något ont uppsåt. Problemet är helt enkelt att de prioriterar tillväxt till varje pris: att få nya användare att registrera sig, och att aktivera den befintliga användarbasen så de inte lämnar apparna.
Detta tycks ligga helt i linje med ett memo som Andrew Bosworth, en senior chef på Facebook, skrev år 2016:
We connect people.
That can be good if they make it positive. Maybe someone finds love. Maybe it even saves the life of someone on the brink of suicide.
So we connect more people
That can be bad if they make it negative. Maybe it costs a life by exposing someone to bullies. Maybe someone dies in a terrorist attack coordinated on our tools.
And still we connect people.
The ugly truth is that we believe in connecting people so deeply that anything that allows us to connect more people more often is *de facto* good. It is perhaps the only area where the metrics do tell the true story as far as we are concerned.
That isn’t something we are doing for ourselves. Or for our stock price (ha!). It is literally just what we do. We connect people. Period.
That’s why all the work we do in growth is justified. All the questionable contact importing practices. All the subtle language that helps people stay searchable by friends. All of the work we do to bring more communication in. The work we will likely have to do in China some day. All of it.
The natural state of the world is not connected. It is not unified. It is fragmented by borders, languages, and increasingly by different products. The best products don’t win. The ones everyone use win.
I know a lot of people don’t want to hear this. Most of us have the luxury of working in the warm glow of building products consumers love. But make no mistake, growth tactics are how we got here. If you joined the company because it is doing great work, that’s why we get to do that great work. We do have great products but we still wouldn’t be half our size without pushing the envelope on growth. Nothing makes Facebook as valuable as having your friends on it, and no product decisions have gotten as many friends on as the ones made in growth. Not photo tagging. Not news feed. Not messenger. Nothing.
In almost all of our work, we have to answer hard questions about what we believe. We have to justify the metrics and make sure they aren’t losing out on a bigger picture. But connecting people. That’s our imperative. Because that’s what we do. We connect people.
Han menar idag att det var ett diskussionsunderlag snarare än en sanning, och Mark Zuckerberg har också tagit avstånd från det, men man får väl ändå anta att det speglar kulturen. Andra läckta dokument visar hur Facebook-chefer diskuterat hur man kan växa mer i barnsegment, bland annat genom att göra det lättare för barn att kommunicera via Facebook-produkter under tiden de leker: “They are a valuable but untapped audience.“ (Facebook har varit på väg att lansera en separat Instagram Kids för 10-12-åringar, som nu pausats givet de senaste dagarna debatt.)
Men, som alla företag, vill Facebook inte bara vinna nya användare, utan också hålla kvar sin befintliga användarbas. Hur gör man då det? Mycket kretsar kring styrningen av nyhetsflödet, News Feed. Varje gång en användare loggar in finns det tusentals möjliga händelser som skulle kunna visas — allt som dina vänner gjort sen sist, men också allt som hänt på sidor eller grupper du följer, och olika publika inlägg. Så något urval behövs alltid, men frågan är vilka principer som ska gälla.
Facebook gjorde en förändring år 2018 då man gick från att optimera för hur länge användare vistades på sajten, till att istället premiera vad som kallas meaningful social interactions (MSI). Detta mäts i termer av engagemang: hur ofta användare reagerar, kommenterar och delar. Utåt sett såldes förändringen som ett sätt för bolaget att sitt samhällsansvar och premiera innehåll från "people that matter to us”:
We built Facebook to help people stay connected and bring us closer together with the people that matter to us. That's why we've always put friends and family at the core of the experience. Research shows that strengthening our relationships improves our well-being and happiness. But recently we've gotten feedback from our community that public content -- posts from businesses, brands and media -- is crowding out the personal moments that lead us to connect more with each other. […]
The first changes you'll see will be in News Feed, where you can expect to see more from your friends, family and groups. As we roll this out, you'll see less public content like posts from businesses, brands, and media.
Men The Wall Street Journal visar att förändringen var mer affärsmässig: användarna hade under lång tid blivit mer och mer passiva på sajten, och man var tvungen att göra något för att inte tappa dem.
Comments, likes and reshares declined through 2017, while “original broadcast” posts—the paragraph and photo a person might post when a dog dies—continued a yearslong decline that no intervention seemed able to stop, according to the internal memos. The fear was that eventually users might stop using Facebook altogether.
Så numera serveras varje användare med de inlägg som algoritmerna bedömer att han eller hon kommer ha störst sannolikhet att reagera på:
Put simply, the system determines which posts show up in your News Feed, and in what order, by predicting what you’re most likely to be interested in or engage with. These predictions are based on a variety of factors, including what and whom you’ve followed, liked, or engaged with recently.
De läckte filerna visar att klicka "Angry" räknades som 5x bättre engagemang än att bara klicka "Like".
Förändringen fungerade: engagemanget ökade. Men problemet var att det innehåll som engagerade mest var inlägg som gjorde folk arga och upprörda. Innehållsproducenter lärde sig snabbt, och inläggen blev mer och mer polariserade. Rapporter från många länder pekar på att politiska partier i praktiken omvärderade sina policyprioriteringar utifrån vad de kunde få uppmärksamhet för på Facebook.
Facebook insåg det här ganska snabbt och gjorde vissa justeringar. Men fokuset på tillväxt och engagement — och att produktchefers bonus är kopplade till de målen — påstås innebära att initiativ som kan ses som "anti-tillväxt" sällan eller aldrig genomförs. Och de begränsningar som görs är väldigt nischade: bolaget har till exempel deaktiverat möjlighet att dela vissa typer av publika inlägg som kan ses som desinformation kring covid-19, men varit ovilliga att hantera andra typer av tvivelaktiga inlägg på samma sätt.
When Ms. Stepanov presented Mr. Zuckerberg with the integrity team’s proposal to expand that change beyond civic and health content—and a few countries such as Ethiopia and Myanmar where changes were already being made—Mr. Zuckerberg said he didn’t want to pursue it if it reduced user engagement, according to the documents.
Så det verkar tydligt att Facebook länge optimerat för tillväxt och engagemang — hade det inte gjort det hade man knappast haft 3 miljarder användare idag.
Är kritiken rättvis?
Men innebär detta att kritiken om man inte tar negativa effekter på allvar är rättvis och rimlig?
Facebook avfärdar de läckta dokumenten som ofullständiga och missvisande, och de menar att de ligger långt före sina konkurrenter i att överhuvudtaget genomföra analyser av sin samhällspåverkan, för att inte tala om att motverka identifierade problem. Nyhetsbrevet Stratechery håller med:
TikTok’s algorithm is far more addictive than Facebook’s, and dangerous for minors, and YouTube has played perhaps the leading role in the spread of anti-vaccine information, but it is Facebook that gets all of the blame.
Det verkar också som forskningsfältet är mer oklart än vad kritikerna vill ge sken av:
"If you ask teens if they are addicted/harmed by social media or their phones, the vast majority say yes," she tells NPR. "But if you actually do the research and connect their use to objective measures ... there is very little to no connection." With the exception of a small increase in behavior problems, her study found no real world connections between smartphone or social media use and several different measures of psychological distress and well-being. "At the population level," the paper concluded, "there was little evidence that digital technology access and use is negatively associated with young adolescents' well-being."
Det finns också ett mönster där sociala medier-företag, och framförallt Facebook, kritiseras för frågor som egentligen är mycket större än dem själva. Som analytikern Benedict Evans frågar sig, hur kan vi förvänta oss att Instagram ska lösa tonårstjejers kroppsfixering när samhället inte lyckats efter 50 års debatt om mode?
Facebook menar också att de investerar enorma resurser — 110 miljarder sedan 2016 — på säkerhetsfrågor, bland annat på att manuellt granska användares inlägg för att undvika att publicera sådant som bryter mot deras riktlinjer. De påpekar också på att de inte har något att vinna på att sprida hat och hot — det är dåligt för affärerna, eftersom annonsörerna inte vill synas i samband med det.
Så är det rättvist att jämföra Facebook med ett tobaksbolag? Nej: dels har sociala medier många fördelar just i hur de länkar samman människor som inte rökning har, och dels var nackdelarna med rökning långt mycket tydligare.
(Däremot var inte så hjälpsamt när Facebook försvarade sig mot jämförelsen med ett tobaksbolag med motiveringen att “en tredjedel av världen använder våra appar". En tredjedel av världen rökte på 90-talet.)
Och som Spindelmannen brukade säga: med stor makt kommer ett stort ansvar. Och Facebook är ju som bolag klart störst av de sociala nätverken, i och med att de äger både "Facebook Blue" (det som de flesta uppfattar som Facebook), WhatsApp och Instagram. Mänsklighetens problem blir därför lätt Facebooks problem.
Två saker kan ju vara sanna samtidigt: Facebook investerar jättemycket, och Facebook investerar inte tillräckligt. Givet det politiska fokuset på frågan — Federal Trace Commission, FTC, har stämt Facebook för konkurrensbrott, senaten håller utfrågningar och ett flertal lagförslag har förberetts — så verkar det växa fram ett momentum för förändring.
Vad kan och bör hända nu?
Så vad finns det för sätt att minska nackdelarna som Facebook för med sig, och samtidigt behålla fördelarna? Och givets Facebooks historia av att fokusera på tillväxt framför allt, hur kan lagstiftare och domstolar påverka dess prioriteringar?
Det handlar antingen om ökad reglering av bolagets verksamhet, eller att minska bolagets makt och inflytande genom att dela upp det i mindre enheter. Det var egentligen samma val som telebolaget AT&T i USA i början av 1900-talet ställdes inför: ökad detaljstyrning eller ökad konkurrens (de valde det förstnämnda).
Reglering är förstås minst kontroversiellt. Till och med bolaget själva säger sig välkomna en ansvarstagande reglering:
The algorithms “should be held to account, if necessary by regulation so that people can match what our systems say they’re supposed to do from what actually happens,” Clegg said on CNN’s “State of the Union,” one of three U.S. news-show appearances on Sunday.
Haugen har förslagit att en ny reglermyndighet borde sättas upp, eftersom de existerande saknar rätt kompetens och jobbar för långsamt för en bransch som förändras så snabbt. Alla är dock inte övertygade. Matt Stoller befarar att det skulle snurrdörrar mellan Facebook och en sådan branschmyndighet — lite som mellan Boeing och FAA, den amerikanska luftfartsmyndigheten — och att myndigheten i praktiken skulle bli tandlös.
Vad är det då man vill reglera? För att hamna rätt i diskussionen om regleringar är det nog viktigt att fundera på vilken roll Facebook anses ha. Som vi diskuterade i Stedman Summaries #37 har rimligtvis en TV-kanal större ansvar för innehållet de sänder än vad en teleoperatör har ansvar för vad folk pratar om i telefon.
Även om det är användarna som skapar sitt eget innehåll har ju Facebooks algoritmer någon slags "redaktionell" påverkan i och med att de bygger ihop ett nyhetsflöde i en given ordning. Men är det en skillnad på om jag postar ett uppviglande meddelandet publikt, eller som ett meddelande till mina vänner, eller i en grupp med 10 medlemmar eller i en grupp med 10.000 medlemmar? Är det ena som ett telefonsamtal och det andra som en TV-sändning? Var går gränsen?
Haugen föreslår att man ska gå tillbaka till en gammal princip, och helt enkelt visa de senaste inläggen längst upp i nyhetsflödet. Men vill jag verkligen se ett inlägg postat för en minut sedan från en sida jag inte varit inne på fem år hellre framför ett inlägg som är tio minuter gammalt men från min bästa vän? Många användare skulle nog uppfatta att användarupplevelsen är mycket bättre när Facebook försöker hjälpa mig hitta inlägg jag bryr mig om.
Andra idéer handlar om helt förbjuda sociala nätverk för barn, samt att sluta visa hur många likes ett inlägg får (något som Instagram redan experimenterat med). Det finns också flera förslag kring att öka insynen och genomlysning, både kring hur algoritmerna funkar, men också i att bolaget ska tvingas dela data och analyser med forskare för att göra det möjligt att se vilka konsekvenser de får. Och kanske allra mest att Facebook ska mer öppet visa förbättringar de jobbar med:
They would like to see companies like Facebook put resources toward designing and testing positive interventions.
Some ideas researchers are currently looking at: connecting young people with information about mental wellness or health; promoting accounts that have been shown to make people feel better about themselves; or prompting teens to check in with peers who are having a rough day.
"There really are a lot of teens suffering from depression, and they really do use a lot of social media, and social media really does play an outsized role in their lives," says Rideout. "If there are concrete steps that Instagram or any other social media company can take to elevate the positive and diminish the negative aspects of their platforms, that's something we should support."
Men vissa anser att Facebook är så dominerande — och reglering så svårt och farligt — att det enda säkra sättet att undvika framtida skandaler är att minska maktkoncentrationen och dela upp bolaget, till exempel genom att sälja av WhatsApp och Instagram. FTC driver som sagt en sådan här processen, men misslyckades i alla fall initialt med att överhuvudtaget bevisa att Facebook var ett monopol.
Haugen, visselblåsaren, vill inte bryta upp bolaget och menar att problemen hade varit samma med flera mini-Facebooks — och till och med att ett Facebook utan Instagram, som står för största delen av tillväxten, hade varit ännu mer desperat och ännu mer kortsiktigt!
Ben Thompson i Stratechery har argumenterat för att reglering är viktigt för "plattformar" (som t ex iOS) som måste få vara naturliga monopol, men att för "aggregators" (som t ex Facebook) är det viktigare att myndigheterna säkerställer konkurrens så att annonsörer har realistiska alternativ, och så sköter marknaden resten. Han landar dock i att konkurrensen är tillräckligt god, framförallt mot användare, men även mot annonsörer, nu när TikTok växer mycket snabbare än Instagram (de firade nyligen att de nått 1 miljard användare). I slutändan landar han ändå i att det nog varit bättre om Facebook varit mindre, men att det inte går att motivera utifrån konkurrenslagstiftning:
This also makes the case for why I do think the world would be better off were Facebook a much smaller company: its political problems — both for the company and for the world — are irrevocably tied to its size. Unfortunately the only means we have to break a company up — antitrust — don’t really apply; Facebook presents a societal problem, not a competitive one. Moreover, per political problem three, politicians don’t want a smaller Facebook; they want a compliant one.
Men andra menar att ett av de främsta argumenten — ironiskt nog — för en uppstyckning är kanske just att Facebook har en så oerhört framgångsrik produkt mot annonsörer att förändringar inte kommer att framtvingas organiskt av marknadskrafterna. Oavsett alla politiska diskussioner har annonsörerna stannat kvar för att Facebook är relativt unikt i att kunna erbjuda annonsering mot exakt de kunder man vill nå:
Currently, there is no market pressure on Zuckerberg to change because advertisers have nowhere else to go. Despite the remarkable series of articles, and the outage, for instance, not a single advertiser has spoken up in any meaningful about Facebook this week. […]
If there were competition in social media, what would happen? There is a very simple answer. Platforms would compete by differentiating themselves based on safety and privacy. That sounds a bit far-fetched until you realize that that is exactly how Facebook competed with MySpace.
Avslutningsvis
Så om det nu är orättvist att jämföra Facebook med tobaksbolagen: är Facebook då som tryckpressen?
Det är en laddad jämförelse för ett bolag som dra bort fokus på frågan.
Tryckpressen är nämligen en av de uppfinningar som förändrat Europas historia mest, genom att ha möjliggjort spridningen av protestantismen, och därmed banat väg för att nationalstater tog över den makten som katolska kyrkan haft i mer än ett årtusende. Så jag är inte säker på att den jämförelsen kommer att lugna amerikanska politiker som är oroliga över Facebooks påverkan på samhället…
Det här var allt för idag.
Om du har vänner som du tror skulle gilla nyhetsbrevet, vidarebefordra det till dem eller tipsa dem om att skriva upp sig här för framtida utskick (det är helt gratis!).
Min plan just nu är att skicka nyhetsbrev varannan söndag (förhoppningsvis lite tidigare nästa gång..). Så vi hörs sannolikt om två veckor. Ha det så bra tills dess!
—Jacob