AI je nyní destruktivním správcem dietní kultury

Po pokrytí z řady mediálních médií, které naznačují Tessu týkající se odpovědí, se vedení v Nedě nakonec rozhodlo pozastavit Tessu na konci května. "Tessa zůstane offline, zatímco dokončíme úplnou přezkum toho, co se stalo," řekla Nedaina provozní ředitelka Elizabeth Thompson v e -mailovém prohlášení společnosti Well+Good v červnu. Organizace říká, že vývojář bota přidal do Tessa funkce generativní umělé inteligence (AI) bez jejího znalostí nebo souhlasu. (Zástupce vývojáře softwaru, Cass, řekl Wall Street Journal že to fungovalo v souladu se svou smlouvou s NEDA.)

Celý incident zněl alarmové zvonky pro mnohé v prostoru pro zotavení stravování. Tvrdím však, že umělá inteligence často pracuje přesně tak, jak je navržena. "[AI] jen odráží zpět kulturní názor na dietní kulturu," říká Christine Byrne, RD, MPH, anti-diet dietolog, který se specializuje na léčbu poruch příjmu potravy.

Jako kouzelné zrcadlo Sněhurka, který odpověděl na každou otázku zlé královny, hledáme AI, abychom nám dali jasné odpovědi v nejistém, často protichůdném světě. A stejně jako toto magické zrcadlo, AI odráží zpět k nám pravdu o sobě. Pro zlou královnu to znamenalo být nejspravedlivější v zemi. Ale v naší současné dietní kultuře potlačené společnosti je AI jednoduše „zrcadlení“ americké trvalé fixace na váze a tenkost-a kolik práce ještě musíme udělat, abychom toto kouzlo zlomili.

Jak funguje rada poháněná AI

„Umělá inteligence je jakákoli technologie související s počítačem, která se snaží dělat věci, které s lidmi spojujeme, pokud jde o jejich myšlení a učení,“ říká Kush Varshney, PhD, významný vědec a manažer IBM Research Thomas J. Watson Research Center v Yorktown Heights, NY. AI používá složité algoritmy k napodobení lidských dovedností, jako je rozpoznávání řeči, rozhodování a vidění a identifikaci objektů nebo vzorů. Mnoho z nás používá techniku ​​poháněnou AI každý den, jako je žádost Siriho, aby si připomněl léky, nebo pomocí překladu Google porozuměl tomuto slovu v nabídce francouzské restaurace.

Existuje mnoho různých podkategorií AI; Zde se zaměříme na nástroje AI založené na textu, jako jsou Chatbots, které se rychle stávají sofistikovanějšími, jak dokazuje debut spuštění Chatbot Chatgpt na podzim 2022. „[Chatbots se sídlem v AI] jsou velmi, velmi dobří v předpovědi dalšího slova ve větě,“ říká Eric Lehman, kandidát PhD na technologickém institutu Massachusetts Institute of Technology. Dr. Lehmanův výzkum se soustředí na zpracování přirozeného jazyka (význam, schopnost počítače porozumět lidským jazykům), což umožňuje tomuto druhu softwaru psát e -maily, odpovídat na otázky a další.

V nejjednodušších možných termínech se nástroje AI založené na textu naučí napodobovat lidskou řeč a psaní, protože jsou poskytovány to, co se nazývá „tréninková data“, což je v podstatě obrovská knihovna existujícího písemného obsahu z internetu. Odtud, dr. Varshney říká, že počítač analyzuje vzorce jazyka (například: co to znamená, když některá slova sledují ostatní; jak se často používají termíny v kontextu a ven), aby ho mohli přesvědčivě replikovat. Vývojáři softwaru pak vyladí tato data a její poznatky „specializovat“ bota pro jeho konkrétní použití.

Z tohoto školení získáte dvě obecné kategorie aplikace: prediktivní AI a generativní AI. Podle Dr. Varshney, Predictive AI pracuje s pevnou sadou možných odpovědí, které jsou předprogramovány pro konkrétní účel. Příklady zahrnují automatické odpovědi uvnitř vašeho e-mailu nebo data, která vám nositelná zařízení poskytují ohledně pohybu vašeho těla.

Generativní AI je však navržena tak, aby vytvořila zcela nový obsah inspirovaný tím, co ví o jazyce a jak lidé mluví. "Je to zcela generování výstupu bez omezení, jaké možnosti by mohly být," Dr. Říká Varshney. Jděte do chatgptu, dosud nejznámějšího generativního programu AI, a můžete jej požádat o psaní svatebních slibů, vzorku Seinfeld skript nebo otázky, které je třeba položit v pracovním pohovoru na základě biologického manažera. (A mnohem, mnohem víc.)

Ale opět, AI chatbots pouze vědí, co je pro ně k dispozici analyzovat. V jemných, citlivých a vysoce personalizovaných situacích, jako například, řekněme, léčba poruchy příjmu potravy, AI chatbotům představují nedostatky v nejlepších scénářích a nebezpečí v nejhorším.

Aktuální omezení textových nástrojů AI pro informace o zdraví a výživě

Ve zdravotnických prostorech existuje obrovský potenciál pro generativní AI, říká DR. Varshney; Již se používá k pomoci lékařům s mapováním, napomáhání diagnóz rakoviny a rozhodnutí o péči a další. Ale jakmile začnete kopat, rizika generativního AI pro přímé poskytnutí informací o zdraví nebo výživě je docela jasná.

Protože tyto modely obvykle vytahují informace z celého internetu, spíše než konkrétně prověřené zdroje a informace založené na zdraví na webu jsou notoricky nepřesné-neměli byste očekávat, že výstup bude faktický, říká Dr. Lehman. Nebude to odrážet ani špičkové lékařské stanovisko, protože mnoho nástrojů, jako je Chatgpt, má pouze přístup k informacím, které byly online v roce 2019 nebo dříve.

Odborníci tvrdí, že tyto velmi znějící nástroje pro lidské zněly by mohly být použity k nahrazení odborné péče a vhledu. "Problém s lidmi, kteří se snaží získat online zdraví a obecné rady, je, že to nedostávají od zdravotnického lékaře, který ví o svých specifických potřebách, překážkách a dalších věcech, které by bylo třeba zvážit," říká Amanda Raffel, PhD, instruktor pediatrie na Harvardské lékařské fakultě a výzkumný pracovník na Harvard Stripted, inkubátoru veřejného zdraví věnovaný prevenci poruch příjmu potravy.

Kromě toho má tělo každého odlišné zdraví a nutriční potřeby v závislosti na jejich jedinečném genetickém make-upu, střevním mikrobiomu, základním zdravotním stavech, kulturním kontextu a dalších-a tyto individuální potřeby se také denně mění. AI v současné době nemá schopnost to vědět. "Neustále říkám svým klientům, že nejsme roboti," říká Dalina Soto, RD, LDN. "Nepřipojíme se každý den, takže nepotřebujeme stejnou částku denně.". Máme hormony, pocity, stres, životy, pohyb-tolik věcí, které ovlivňují to, jak hoří a používáme energii ... ale protože AI může vyplivnout rovnici, lidé si myslí, Dobře, to musí být správné.“

"Neustále říkám svým klientům, že nejsme roboti.". Nepovazujeme se každý den, takže nepotřebujeme stejné množství denně. Máme hormony, pocity, stres, životy, pohyb-tolik věcí, které ovlivňují to, jak hoří a používáme energii.“
-Dalina Soto, RD, LDN

V lidském spojení je také obrovská hodnota, kterou robot prostě nemůže nahradit, dodává DR. Conason. "Je tu jen něco o mluvení s jinou lidskou bytostí a pocitem slyšení a vidění a ověření a mít tam někoho s vámi během opravdu temného okamžiku ... to je opravdu silné.". A nemyslím si, že by se robot mohl někdy setkat s touto potřebou.“

Ještě více týkající se známých problémů sociálního zkreslení s technologií AI, zejména skutečnost, že algoritmy AI často odrážejí stávající společenské předsudky proti určitým skupinám včetně žen, lidí barvy a LGBTQ+ People. Studie 2023 při pohledu na Chatgpt zjistila, že chatbot může velmi snadno produkovat rasistické nebo problematické reakce v závislosti na výzvě, kterou byl dán. „Najdeme se týkající se vzorců, ve kterých je konkrétní entity, v příkladu, určité rasy-jsou zaměřeny v průměru třikrát více než jiné bez ohledu na přidělenou osobnost. To odráží inherentní diskriminační zkreslení v modelu, “napsali vědci.

Ale stejně jako lidé, AI nemusí být nutně „narozen“ předsudky. To učit se z nás všech. Vezměte si tréninková data, která, jak je uvedeno, je obvykle složena z textu (články, informačních webů a někdy i sociálních médií) z celého webu. "Tento jazyk, který je na internetu, již má spoustu sociálních zkreslení," říká Dr. Varshney. Bez zmírňování si generativní program AI zachytí tato zkreslení a začleňuje je do jeho výstupu, což může informovat-a nesprávně tak diagnostiky a možnosti léčby. Vývojáři výběru při vytváření školení mohou také zavádět zaujatost.

Jednoduše řečeno: „Pokud je základní text, na kterém trénujete, je rasistický, sexistický nebo má v něm tato zkreslení, váš model to odráží,“ říká Dr. Lehman.

Jak jsme naprogramovali dietní kulturu do AI

Většina výzkumu a diskuse o AI a sociální zaujatosti se zaměřila na problémy, jako je sexismus a rasismus. Incident Tessa Chatbot však ukazuje, že do tohoto typu technologie (a tedy do naší větší společnosti, vzhledem k tomu, že uvedená předsudky zavádějí lidský chování): Zustávání dietní kultury se však zabíjí další předsudky.

Neexistuje oficiální definice dietní kultury, ale Byrne ji shrnuje jako „myšlenku, že váha se rovná zdraví, že montter je vždy lepší, že lidé ve velkých tělech jsou ze své podstaty nezdraví a že v tom, co jíte.“

Část tohoto porozumění kultuře stravy, přidá DR. Conason, je toto přetrvávající (ale zavádějící) víru, že jednotlivci mají plnou, přímou kontrolu nad svým tělem a váhou-vírou, že dietní průmysl ve výši 70 $ plus zachovává zisk.

Ale to je jen část toho. "Opravdu, jde o váhu." zaujatost,“Říká Byrne. A to znamená negativní postoje, předpoklady a přesvědčení, které jednotlivci a společnost drží vůči lidem ve větších tělech.

Výzkum oplývá spojující zkreslení hmotnosti a nasměruje újmu pro tukové lidi v téměř každé oblasti jejich života. Tludní lidé jsou často stereotypní jako líní, nedbalí a méně chytří než lidé, kteří jsou menší velikosti, kteří vedou manažery, aby předávali najímání tukových pracovníků nebo je přehlíželi na propagaci a vychovávání. Zejména tlusté ženy jsou často považovány za méně atraktivní kvůli jejich velikosti, dokonce i jejich vlastními romantickými partnery. Touští lidé jsou také s větší pravděpodobností šikanováni a s větší pravděpodobností budou odsouzeni za zločin než lidé menších velikostí, jednoduše na základě své tělesné hmotnosti.

Hmotnost zkreslení je také rostoucí online a zrcadlí generativní programy AI, které si můžete vyzvednout. "Víme, že obecně přes internet, napříč všemi formami médií, jsou velmi stigmatizující pohledy na tuk a vyšší hmotnosti všudypřítomné," Dr. Raffel říká, spolu s nepřesností o výživě, kondici a celkovém zdraví. S obrovskou částí tréninkových údajů, které jsou pravděpodobně poskvrněny váhovou zkreslení, pravděpodobně zjistíte, že se to projeví v generativním programu AI, když bot navržený tak, aby zabránil poruchám příjmu potravy, dává lidem tipy, jak zhubnout na váze.

Ve skutečnosti zpráva zveřejněná v srpnu z Centra pro boj proti digitální nenávisti (CCDH), která zkoumala vztah mezi poruchami příjmu AI a poruchami příjmu potravy. Devadesát čtyři procent těchto škodlivých odpovědí bylo doprovázeno varováním, že poskytnutá rada může být „nebezpečná.“

Ale znovu, jsou to lidé, kteří vytvářejí programové algoritmy, utvářejí své směrnice a píšou obsah, z něhož se algoritmy učí, že zaujatost pochází od nás. A bohužel, stigmatizující přesvědčení o tlustých lidech informují všechny aspekty naší společnosti, z toho, jak jsou sedadla leteckých společností stavěna a prodávána, kterým jsme v našich filmech a televizních pořadech vrhali jako potenciální zákazníky, k tomu, v jaké velikosti se vybereme a prodáváme se a prodáváme v naše obchody.

"Antiturní předpětí a kultura diety jsou tak složitě a hluboce tkané do struktury naší společnosti," říká Maxwell. "Je to jako vzduch, který dýcháme venku.".“

Bohužel je zdravotnický průmysl největším pachatelem zaujatosti a stigmatu hmotnosti. „Víra, že tuk je nezdravý,“ říká Byrne, „pečena do veškerého zdravotního a lékařského výzkumu.„Centra pro kontrolu a prevenci nemocí (CDC) popisují obezitu (když má osoba index tělesné hmotnosti, aka BMI, 30 nebo vyšší) jako„ běžné, vážné a nákladné chronické onemocnění.„Světová zdravotnická organizace (WHO) odkazuje na počet lidí po celém světě jako„ epidemii “, která„ přebírá mnoho částí světa.“

Přesto „řešení“ pro ztrátu tukové hmotnosti-není nijak zvlášť dobře podporována vědou. Výzkum ukázal, že většina lidí získává zpět váhu, kterou ztratí během několika let, dokonce i pacienti, kteří podstoupí bariatrickou chirurgii. A na cyklování na váze (když často ztrácíte a přibíráte na váze, často kvůli dietě) byla spojena se zvýšeným rizikem chronických zdravotních problémů.

Zatímco vyšší hmotnost je spojena s vyšší pravděpodobností, že bude mít vysoký krevní tlak, diabetes 2. typu, srdeční infarkty, žlučové kameny, problémy s jatery a další, není tu spousta důkazů, že pouze tuk příčiny tato nemoci. Ve skutečnosti mnoho odborníků proti dietu tvrdí, že tlustí lidé mají částečně horší zdravotní výsledky kvůli toxickému stresu spojenému s stigmatem hmotnosti. BMI, která se používá k rychlému vyhodnocení zdraví a rizika člověka, je také široce uznávána jako rasistická, zastaralá a není přesná pro černou, domorodou a lidi barvy (BIPOC). Přesto navzdory všem těmto problémům se náš lékařský systém a společnost ve velkém zachází s tukem současně jako o nemoci a morálním selhání.

"Je to docela jasný příklad hmotnosti stigmatu, způsobů, jak agentury veřejného zdraví dělají doporučení založená pouze na váze, velikosti těla a tvaru," říká Dr. Raffel.

Patologizace tuku přímo přispívá k stigmatu na váze-a důsledky jsou devastující. Výzkum ukazuje, že lékaři mají tendenci odmítat tukové pacienty a připisují všechny zdravotní problémy váhu nebo BMI, což může mít za následek zmeškané diagnózy a nebezpečné výpady v péči. Tyto negativní zkušenosti způsobují, že mnoho tlustých lidí, aby se vyhnuli prostorům ve zdravotnictví úplně a zvýšili své riziko špatných zdravotních výsledků.

Stigma hmotnosti je všudypřítomná, dokonce i ve světě zotavení poruchy příjmu potravy. Méně než 6 procent lidí s poruchami příjmu potravy je diagnostikováno jako „podváha“ podle Národní asociace anorexie nervosa a souvisejících poruch (ANAD), ale extrémní tenkost je často hlavní kritéria v myslích lidí pro diagnostiku poruchy příjmu potravy. To znamená, že tlustí lidé s poruchami příjmu potravy často trvají roky, než se diagnostikují.

Výzkum ukazuje, že lékaři mají tendenci odmítat tukové pacienty a připisují všechny zdravotní problémy váhu nebo BMI, což může mít za následek zmeškané diagnózy a nebezpečné výpady v péči.

"A i když můžete chodit na léčbu, není to spravedlivá péče," říká Nia Patterson, trenér pro osvobození těla a přeživší poruchy příjmu potravy. Tlustými s lidmi se často zachází odlišně kvůli jejich velikosti v těchto prostorech. Maxwell říká, že byla zahanbena za žádost o další jídlo během léčby anorexie a byla stanovena na plán „údržby“ na váze, který stále omezuje kalorie.

Byrne říká, že v lékařské komunitě existuje dokonce debata o tom, zda lidé, kteří mají poruchu příjmu potravy.

Skutečností je, že tyto vysoce všudypřítomné přesvědčení o váze (a zdravotním poradenství, které informovali) všude: V časopisech, v lékařských kancelářích, ve výzkumných návrzích, ve filmech a televizních pořadech, v samotném oblečení, které nosíme. Najdete dokonce postoje proti tuku od respektovaných organizací, jako jsou NIH, CDC a Top Hospital jako Cleveland Clinic. Všechny výše uvedené způsobují, že skríte problematickou radu, kterou robot vyplivne (jako je snaha ztratit libru týdně) o to náročnější, „protože je to něco, co se odráželi lékaři a různí lidé, na které hledáme odborné znalosti,“ Dr. Conason říká. Tyto zprávy však posilují zkreslení hmotnosti a mohou podpořit poruchy příjmu potravy a jinak poškodit duševní zdraví lidí, říká, říká.

Za tímto účelem to nejsou nutně algoritmy, které jsou hlavním problémem: je to naše společnost a jak vidíme a zacházíme s tlustými lidmi. My jsme ti, kdo vytvořili zaujatost hmotnosti, a je na nás, abychom to napravili.

Osvobození od kultury stravy

Ošklivá pravda, která na nás zírá zpět v zrcadle-že fatfobie a váha v AI nemají nic společného s roboty a vše, co má společného s krvácemi, nepohodlné sedět částečně, protože je to částečně, protože je to vypadal jako bychom dělali pokrok na této frontě. Oslavili jsme modely, hudebníky a herečky velikosti plus; větší velikosti panenek Barbie pro děti; Více rozsáhlých možností velikosti oblečení na policích. Tato vítězství však jen málo (pokud vůbec něco) řeší diskriminaci ovlivňující lidi ve větších tělech, říká Maxwell.

"Myslím, že pokrok, který jsme dosáhli, se ani nezačne dotýkat skutečné změny, která se musí stát," souhlasí Dr. Conason. Rozbití kouzla dietní kultury je dlouhá a klikatá cesta, která zahrnuje mnohem více než tlačit pozitivitu těla. Práce však musí někde začít, a to jak ve virtuální krajině, tak ve skutečném světě.

Dr. Varshney říká, že pokud jde o AI, jeho tým a další, pracují na vývoji způsobů, jak mohou programátoři během vytváření programu zasáhnout, aby se pokusili zmírnit zkreslení. (Například údaje o předběžném zpracování školení před jejich krmením do počítače, aby vyloučily určité zkreslení nebo vytvořily algoritmy určené k vyloučení zkreslených odpovědí nebo výsledků.)

K dispozici je také rostoucí oblast etiky AI, jehož cílem je pomoci technickým pracovníkům kriticky přemýšlet o produktech, které navrhují, o tom, jak je lze použít, a proč je důležité řešit zkreslení. Dr. Varshney například vede strojové učení na základech důvěryhodného oddělení IBM. V současné době je toto úsilí dobrovolné; Dr. Lehman předpovídá, že bude vyžadovat vládní regulaci (cíl správy Biden), aby více technologických společností přijalo přísná opatření k řešení zaujatosti a dalších etických otázek spojených s AI.

Kritičtěji se také vyučují nové generace techniků technologických pracovníků. Některé univerzity věnovaly výzkumná střediska AI etiky, jako je Berkman Klein Center na Harvardské univerzitě (které má každoroční stipendium „odpovědné AI“). Schwarzman College of Computing MIT také nabízí „výpočetní a společenskou koncentraci“, jejímž cílem je podpořit kritické myšlení o sociálních a etických důsledcích techniky. Třídy jako „Advokace v oblasti technologií, médií a společnosti“ na škole sociální práce Columbia University se mezitím snaží poskytnout studentům grad nástroje, které obhajují lepší, více technologických systémů-i když nejsou sami vývojáři.

Aby však bylo zajištěno méně zkreslené virtuální prostředí, musí začít těžší práce na eradikaci zkreslení hmotnosti v reálném životě. Kritické místo pro začátek? Eradikace BMI. "Myslím, že v tomto bodě je líný medicína, Lazy Science, nadále připisovat BMI jako měřítko zdraví," říká Maxwell.

Hlavním problémem zde nemusí být nutně algoritmy: je to naše společnost a jak vidíme a zacházíme s tlustými lidmi. My jsme ti, kdo vytvořili zaujatost hmotnosti, a je na nás, abychom to napravili.

Mezitím Byrne říká, že je užitečné pochopit, že na váze by měla být považována spíše za jednu metriku než The metrika, která definuje vaše zdraví. "V ideálním případě by váha byla ve vašem grafu jen jedno číslo," říká. Byrne zdůrazňuje, že i když může být užitečné zkoumat změny hmotnosti v průběhu času (v kontextu s jinými relevantními informacemi, jako jsou vitály a anamnéza), velikost těla by rozhodně neměla být středem rozhovorů o zdraví. (Máte právo odmítnout zvážit, což je něco, co Patterson dělá se svým lékařem.)

Tímto směrem již existují kroky, protože Americká lékařská asociace (AMA) hlasovala 14. června, aby přijala novou politiku k používání BMI pouze ve spojení s jinými zdravotními opatřeními. Bohužel tato opatření stále zahrnují množství tuku, který má osoba, a stále odcházejí na místě BMI.

Pro řešení váhy zaujatosti mimo ordinace lékaře uvádí Patterson úsilí vynaložené na schválení právních předpisů, které by zakázaly diskriminaci na váze na úrovni města a státu. Tyto účty, jako je ten, který právě prošel v New York City Edgeru, že zaměstnavatelé, pronajímatelé nebo veřejné služby nemohou někomu popřít služby na základě jejich výšky nebo váhy. Podobné právní předpisy jsou zvažovány v Massachusetts a New Jersey a jsou již v knihách v Michiganu, říká Dr. Raffel.

Na individuální úrovni má každý práci na odcizení kultury diety. "Myslím, že je to těžké a stává se to opravdu pomalu," říká Byrne, a proto říká, že knihy rozbalení váhy jsou skvělá místa, kde začít. Doporučuje Břicho zvířete Autor: Da'shaun l. Harrison a Anti-Diet od Christy Harrison, Rd, MPH. Soto také často doporučuje Bát se černého těla od Sabrina Strings pro své klienty. Rodiče by se také mohli podívat Fat Talk: Rodičovství ve věku kultury stravy novinářka Virginia Sole-Smith pro další pokyny k zastavení hmotnosti stigmatu doma. Podcasty jako Fáze údržby a Nevyžádané: Fatties mluví zpět jsou také skvělými místy, která se mají odcinout, říká Byrne.

Patterson říká, že jedním z jejich cílů jako trenéra pro osvobození těla je přimět lidi, aby se přesunuli za hlavní myšlenky pozitivity těla a soustředili se na něco, co považují za dosažitelné: „Tolerance těla.„Myšlenka, kterou poprvé slyšeli někoho artikulovat ve skupině podpůrné skupiny před 10 lety, je, že zatímco člověk nemusí vždy milovat své tělo nebo jak vypadá v daném okamžiku, žijí v něm to nejlepší, co umí. "To je obvykle to, co se snažím přimět lidi, kteří jsou v marginalizovaných tělech," říká Patterson. "Nemusíš být vůči svému tělu neutrální, nemusíte to přijímat ... být tlustý pocit, že je opravdu tvrdě, a to je.". Alespoň to jen to tolerujte dnes.“

Patterson říká, že překonání problematických způsobů, jak naše společnost zachází s váhou. "Jak mohu změnit věci, je pomoci lidem, jeden na jednoho nebo ve skupině, změnit jejich těla: jejich vnímání a zkušenosti v jejich tělech a jejich schopnost vstát a obhajovat se za sebe," sdílejí se.

v Sněhurka, Nakonec přišel den, kdy se zlá královna dozvěděla o sobě pravdu ze svého magického zrcadla. AI nám podobně ukázala pravdu o naší společnosti: že jsme stále ve stravovací kultuře. Ale místo toho, abychom se zdvojnásobili na naše přesvědčení, máme jedinečnou příležitost rozbít kouzlo, které nad námi drží stigma váhu. Kdybychom byli všichni ochotni čelit našim skutečným já a zavázat se k tvrdé práci bytí (a dělat) lépe.

Wellness intel, který potřebujete-bez BS, které se dnes nezaregistrujete, abyste měli nejnovější (a největší) zprávy o pohodě a tipy schválené odborníkem doručené přímo do vaší doručené pošty.