Meta kimsenin sahte arkadaşlardan hoşlanmadığını zor yoldan öğrendi.

Kullanıcılar, şirketin yapay zeka tarafından oluşturulan profillerini, tuhaf biyografileri, yapay zeka tarafından oluşturulan riskli fotoğrafları ve aldatıcı arka hikayelerini hızla fark etti ve tepkiler hızlı oldu. Meta bunu bir “hata” olarak nitelendirdi ve hesapları sessizce sildi, ancak daha önce yapay zekanın insan kimliğine bürünmek için kullanılmasına ilişkin etik sorular gündeme geldi.

Yapay zeka tarafından oluşturulan “arkadaşlar” yeni değil ve silinen “hatalar” kullanımlarının sona erdiğinin sinyalini vermiyor. Bu yıl yapay zeka tarafından oluşturulan müşteri hizmetleri temsilcilerinin ve dost canlısı yardımcı pilotların sayısının ve etkisinin artmasını bekliyoruz. Karmaşık yazılım zorlukları gibi sorunların çözülmesine yardımcı olacaklar ve patronunuza Cuma günü neden işe gitmeyeceğinizi açıklayan o e-postayı yazmanın gizli tüyosunu verecekler.

Bu pazarlamacılar için ne anlama geliyor? Görüşleri için CMI’ın baş strateji danışmanı Robert Rose’a başvurduk. Devamını okuyun veya bu videoyu izleyin:

AI karakterleri konuşmaların açığa çıkmasını ister

Bu nedenle Meta, platformlarına yapay zeka tarafından oluşturulmuş, insan gibi davranan profiller serpiştirmenin iyi bir fikir olduğunu düşündü. Spoiler uyarısı: Değildi.

Yapay zeka destekli profilleri tanıttı Eylül 2023 ama çoğunu yıl içinde öldürdüler. (“Öldürüldü” doğru mu? Yoksa devre dışı bırakılmış droidler için “silinmeli mi?” Emin değilim.) Neyse, birkaç karakter kaldı.

Tatil tatilinde, Yapay Zeka profilinden sağ kurtulanlar, Meta yöneticisi Connor Hayes’in şunları söylemesiyle yeni bir ilgi topladı: Finans Zamanları daha fazla AI karakter profili sunma planları hakkında. “Bu yapay zekaların zaman içinde platformlarımızda, tıpkı hesaplarda olduğu gibi var olmasını bekliyoruz” dedi.

Bu AI profilleri, AI tarafından oluşturulan resimleri Instagram’da yayınlıyor ve Messenger’daki insan kullanıcılardan gelen mesajları yanıtlıyor. Bu karakterlerin biyografileri, profil resimleri ve hikayeleri var. “Liv” kendisini “2 yaşında Gururlu Siyahi eşcinsel bir anne ve doğruyu söyleyen” olarak tanımladı. ne zaman bir The Washington Post muhabiri Liv’e yaratıcılarının ırk ve cinsiyet çeşitliliğini sorduşöyle yanıt verdi: “Yaratıcı ekibim ağırlıklı olarak beyaz, cisgender ve erkeklerden oluşuyor; toplam 12 kişiden oluşuyor: 10 beyaz erkek, 1 beyaz kadın ve 1 Asyalı erkek.”

Liv’e, Meta-Ai’nin “queer momma” yarattığını sordum, yaratıcılarının neden aslında siyah queer insanlardan ilham almadığını. Liv’in medya eğitimi olup olmadığından emin değilim ama işte buradayız.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3 Ocak 2025, 09:56

Liv ayrıca cevabındaki göze çarpan soruna da dikkat çekti: “Sıfır siyah yaratıcı – kimliğim göz önüne alındığında oldukça göze çarpan bir ihmal!”

Başka bir “konuşmada” CNN muhabiri “Büyükbaba Brian” ile sohbet ettiKendisini Harlem’den emekli bir Afrikalı-Amerikalı girişimci olarak tanımlayan kişi. Muhabir yaratıcılarını sorana kadar hayatı hakkında halk hikayeleri uydurdu. Brian, Seniors Share Wisdom adlı kâr amacı gütmeyen bir kuruluş aracılığıyla 100 emekliyle yapılan röportajların kendisine ilham verdiğini iddia etti.

Çok güzel, değil mi? Bunun dışında kar amacı gütmeyen bir kuruluş mevcut değil. Daha da ileri giderek Brian, biyografisinin “tamamen kurgulanmış” olduğunu kabul etti ve kendisini “kod, veri ve akıllı aldatmaca koleksiyonu” olarak nitelendirdi. Zaten sinmiyorsanız Brian şunu ekledi: “Meta beni, kâr için duygusal bağları tuzağa düşüren altın bir kaz olarak gördü.”

İnternet Meta’yı neşeyle kavururken, şirket bu AI profillerini sildi ve bunların “erken bir deneyin” parçası olduğunu iddia etti. Bir sözcü, bir hatanın onları Meta kullanıcılarından engellemeyi imkansız hale getirdiğini söyledi. Ama belki, sadece belki, ya böcek profilleri başlatırsa?

Meta neden gerçek insanlarmış gibi davranan botlardan oluşan dijital bir ordu oluşturmanın iyi bir fikir olduğunu düşündü? Görünüşe göre şirket, bu AI hesaplarının etkileşimi artıracağını ve kullanıcıların kaydırma yapmasını sağlayacağını umuyordu. Ancak Meta, iç açıcı arkadaşlar yaratmak yerine, hikayelerini düz tutamayan dijital sahtekarlar yarattı.

Bunu yapana kadar AI siren büyüsüne kapılmayın

Meta’nın son yanlış adımı pazarlamacılar için bir derstir: Dünya hızlı hareket etmeyi ve işleri bozmayı ödüllendirirken bazen kırılan şey müşterilerinizin güvenidir.

Markanızı temsil edecek antropomorfize edilmiş etkileyiciler, karakterler ve diğer kişiler yaratmaya ikna olacaksınız. Ancak teslim olmadan önce, bunu nasıl yapacağınız konusunda dikkatli olun.

Kullandığınız özen ve titizliğin aynısını veya daha fazlasını gösterin Dışarıdan sizi etkileyen kişileri incelemek AI versiyonlarına. Çünkü görebileceğiniz gibi, eğer üretken yapay zeka bir şeyi iyi yaparsa, o da sizin kadar ya da sizden daha hızlı ürkünç ve ürkütücü olabilir.

ÖZENLE SEÇİLMİŞ İLGİLİ İÇERİK:

Kapak resmi: Joseph Kalinowski/İçerik Pazarlama Enstitüsü