Seznamte se s Diem, „sociálním vyhledávačem“ poháněným AI, který se měl cítit jako chat skupiny přátel

Řekněme například, že chcete vědět o tom, kolik stojí zamrznout vaše vejce. Tuto otázku byste napsali do DIEM a komponenta AI by využila svou širší internetovou databázi a uživatelský obsah uživatelsky pro generování jak odpovědi na jednu větu, tak delší. A obdrželi byste oba, spolu se všemi komunitami generovanými příspěvky na toto téma, pro případ, že byste se zajímali o procházení skrz ně.

Tímto způsobem Diem kombinuje snadnost AI s personalizací znalostí od skutečných žen a ne-binárních lidí-velmi druh neoficiálních informací a životních zkušeností a drby často deprioritizované vyhledávači kvůli zaujatosti (více na tom níže). Je to kombinace, říká Bates, díky čemuž jsou informace o Diem užitečné i přímo použitelné pro lidi z těchto komunit. "Způsob, jakým jsme o budování vždy přemýšleli, je:" Jak můžeme vytvořit prostor, kde byste mohli hledat kolektivní poznatky vašich komunit?'" ona říká. "Pokud můžete společně stavět se svou komunitou, formuje to hlas, data a zkušenosti a nakonec se cítí jinak.“

Otázka genderového zaujatosti na vyhledávačích a platformách AI

Protože genderová zkreslení je ve společnosti jako celku převládající, existuje také v algoritmech internetového vyhledávání v oblasti vyhledávacího motoru a podporuje mezeru v oblasti informací o pohlaví. Je to stejná mezera, jakou čelil Batesovi, když se snažil najít použitelné, relativní informace o pilulce Morning-After v roce 2018.

Jako důkaz, zvažte výsledky studie 2022, pro kterou se vědci snažili určit, zda obrázky Google vyhledávají v zemích s vyšší skóre genderově a rovnosti (posouzeny s globálním indexem genderové mezery) by také prokázaly genderovou zkreslení. Za tímto účelem provedli hledání slova „osoba“ v místním jazyce 37 zemí v jejich první studii a 52 zemí v jejich druhém. Ve všech případech výsledky vyhledávání Google v zemích s vyšší úrovní nerovnosti v oblasti genderu také odhalily větší genderové rozdíly (což znamená, že vyšší procento z prvních 100 výsledků obrazu ukázalo muže proti ženě).

Bylo také zjištěno, že nové roboty AI udržují zaujatost pohlaví. Například, Bloomberg informoval, že výpočetní vědec dostal chatgpt, aby vyplivl kód, který řekl, že pouze asijské nebo bílé muži by udělali dobré vědce; Generální ředitel společnosti odpověděl na vědce na Twitteru a povzbuzoval uživatele, aby „palivovali“ takové odpovědi, aby pomohli programu naučit se nepagovat zaujatost.

Když jsem se zeptal na Chatgpt na podobnou otázku, řekl, že není vhodné použít něčí pohlaví nebo rasu k určení, zda by vynikali v profesi. Ale i když se zdá, že AI se v současné době učí být méně zaujatá, stále se spoléhá na objektivní, soucitní uživatelé, aby to školili tak, aby to tak bylo. (Zatímco AI Diem je do značné míry vyškolena na vytvořené informace a pro Ženy a ne-binární lidé, a proto nepodléhají stejnému problému anti-ženského zaujatosti ze skoku.)

„AI je jen tak dobrá jako data, na kterých je vyškolena, a protože všichni lidé mají zaujatost a předsudky, když se jejich údaje používají, tato zkreslení a předsudky se stávají součástí AI."-Nina Vasan, MD, psychiatr

Tato zjištění ilustrují, jak předpojatosti, které udržujeme jako lidé, přirozeně přenášejí produkty, které vytváříme, a na datové sady, na které přispíváme. „AI je jen tak dobrá jako data, o kterých je vyškolena, a protože všichni lidé mají zaujatost a předsudky, když se jejich údaje používají, stane se zkreslení a předsudky součástí AI,“ říká psychiatrka Nina Vasan, hlavní lékař, hlavní lékař Platformy digitální terapie Real a Founder and Executive Director of Brainstorm: Stanford Lab for Mental Health Innovation.

Jak se diem snaží stát se zábavným a informativním vyhledávacím strojem speciálně pro ženy a ne-binární lidi

Vzhledem k demografickému uživateli zamýšleného uživatele společnosti Diem říká, že si myslí, že informace sdílená na platformě a generovaná chatbotem jako odpovědi na otázky, které mají lidé, když jsou ve „fázi přítele“ svého života; Lidé absorbují spoustu informací od přátel, když jsou ve svých dvaceti a na začátku třicátých let, říká. Myšlenka s Diem je taková, že získáváte perspektivy od různých lidí ve vašem věku a genderové identitě, s nimiž jste možná jinak neinteragovali, a že kolektivní porozumění prospívá všem na platformě.

Protože Diem's ​​AI je krmena informacemi přímo od lidí z této demografické skupiny, je to reprezentativní platforma podle návrhu. Od nynějška tisíce žen a ne-binárních lidí položily otázky a sdílely odpovědi na Diem na témata, která se pro ně vztahují, zejména v kategoriích osobního zdraví, peněz a vztahů-což je místo, kde je Diemova AI nejlépe vyškolena.

I když se to stále učí, vytáhne se z širšího proprietárního datového souboru (podobně jako ten, který pohání chatgpt), aby našel informace o otázkách, které lidé v komunitě dosud nehovořili. Sílem diferenciace však je, že se stále točí „shrnutou diem-y odpověď“ pro tyto otázky, říká Bates s použitím skutečného diem Concose k informování stylu a tónu odpovědi na odpověď odpovědí.

Protože však Diem je stále AI spoléhající se na obsah generovaný uživatelem a na širší datový soubor, rozhodně to není imunní k problémům, kterým čelí jiné vyhledávače a AI chatboty, včetně falešných, zavádějících a, ano, dokonce zkreslený obsah. Na oplátku je v aplikaci a ve verzi na stolním počítači tlačítko pro hlášení zneužívání a platforma zveřejnila soubor pokynů pro komunitu-což podporuje věci jako „laskavost a zvědavost“ a „empatické zapojení“-aby zajistila bezpečnost jeho uživatelů a kvalita informací.

Diem začíná v době, kdy vládní úředníci ve Spojených státech i Evropské unii zkoumají způsoby, jak regulovat AI, hlavně kvůli výše uvedeným obavám. V u.S. Konkrétně, kancelář prezidenta Joe Bidena vydala v říjnu návrh zákona o právech AI, bipartisanská skupina U.S. Senátoři vedený senátorem Chuckem Schumerem pracují na legislativě na zřízení zábradlí v celém odvětví a čtyři vládní agentury minulý měsíc vydaly společné prohlášení, které uvedly pravomoci, které mají, aby regulovaly toto odvětví, zejména proti diskriminaci vyplývající z zaujatosti.

Ale Bates se neodradí vstoupením do této krajiny. Předpovídá, že dojde k „zajímavému posunu v budoucnosti internetu“, kde lidé budou hledat informace, které se starají konkrétně o to, kde jsou ve svém životě. Spíše než požádat Google o radu o randění, například doufá, že brzy půjdete na platformu, jako je Diem, což vám dá odpovědi odvozené od lidí s podobným zážitkem pro vaše vlastní.

„Právě teď existujeme v monopolech a to má dopad na to, jak používáme internet a co očekáváme od platforem,“ říká Bates. Koneckonců, tyto monopoly často odrážejí zaujatost ve prospěch mužů. „Myslím, že budoucnost internetu nabídne více výklenků,“ říká. A kdo říkat výklenek je nutně malý? Jak zdůrazňuje Bates, lidé identifikující ženy tvoří téměř stejný podíl lidí na planetě. A teď čeká na jejich vstup obří skupinový chat.

Wellness intel, který potřebujete-bez BS, které se dnes nezaregistrujete, abyste měli nejnovější (a největší) zprávy o pohodě a tipy schválené odborníkem doručené přímo do vaší doručené pošty.