Her ne kadar pek çok şirket yapay zeka (AI) konusunda başarılı deneyler yapıyor olsa da, çoğunluk, yapay zeka modellerini birden fazla tesisteki üretim ortamlarına fiilen oluşturma ve dağıtma konusunda daha az olgun.
Yapay zeka modelleri genellikle tek bir amaç için oluşturulur ve maliyetlidir, kullanımı sınırlıdır ve ölçeklendirilmesi ve yönetilmesi zordur. Endüstrinin karşı karşıya olduğu zorluk açıktır: Girişin önündeki yüksek engeller, sonsuz yatırım ve yatırım getirisinin yavaş gerçekleşmesi.
Bu blogda Nukon’un Kurumsal Mimarı Ben Caldwell bu zorluğa bir yanıt sunuyor; Makine Öğrenimi İşlemleri veya MLOps. Bu pratik ama oyunun kurallarını değiştiren yaklaşım, kuruluşların ölçeklenebilir, sürdürülebilir, güvenli ve yönetilebilir yapay zeka çözümleri oluşturmak ve dağıtmak için yapay zekadan daha etkili bir şekilde yararlanmasını sağlar.
Yapay zekayı üretimde kullanma konusunda zaten deneyiminiz varsa veya yeni başlıyorsanız ve bu konuya doğru şekilde yaklaşmak istiyorsanız, buradan okumaya devam edin veya isteğe bağlı web seminerini izleyin!
Ben, bu blogdaki kavramları AustMine2023’te sundu. sunumun tamamını buradan izleyin.
Üretimde yapay zekadan faydalanma
Yani, azimle çalıştınız ve üretimdeki ilk yapay zeka modelinize sahip olduğunuzu gururla söyleyebilirsiniz… Tebrikler! Bir adım geri çekilip ona eleştirel bir dürüstlükle bakarsanız, muhtemelen bu Rube Goldberg makinesiyle, yani “Kendiliğinden Çalışan Peçete”yle bazı benzerlikler taşıyor.
Bu, modeli teslim eden ekibe yönelik bir eleştiri değildir. Muhtemelen onu sektörde daha önce var olmayan bir alana çekmek zorunda kaldığınız göz önüne alındığında, bu tamamen makul bir sonuçtur. Tasarım yolda değişecek ve bu yolculuğun başında kimsenin düşünmediği şeylere ihtiyacınız olduğunu fark ettiniz.
Tamam aşkım. Ancak artık bu modeli güncellemeniz gerekiyor. Kim buna dokunmak ister? Böyle bir model çalışırken değişiklikleri uygulayabileceğinizden ve çalışmaya devam edeceğinden ne kadar eminsiniz?
Neden yapay zekanın değerini görmüyorsunuz?
Bu projenin parlak ve iyimser başlangıcında, muhtemelen aşağıdakine benzer bir şeyi kullanarak bir alıştırma yapmışsınızdır: Değer ve Çaba Matrisi (aşağıdaki resim) hangi iş sorununun yapay zeka ile çözülebilecek en iyi sorun olduğunu belirlemek için.
Her rasyonel insan gibi siz de muhtemelen bir şeyi seçtiniz. ‘Hızlı Kazanımlar’ çeyrek. Çözümü işletmeye büyük değer katacak bir sorun ve bunu çözmek için gereken çaba nispeten düşük görünüyordu. Ancak daha sonra proje sırasında aksaklıklar yaşandı. Aniden, hızlı bir galibiyet gibi görünen şey hızla bir dizi galibiyete dönüştü. ‘Şükürsüz Görevler’.
Gereken çaba tahmin edilenden çok daha fazlaydı ve herkesin başlangıçta heyecan duyduğu değeri sunmakta zorluk yaşadınız.
Bu neden oldu?
Makine öğreniminde beklenmeyen çaba
Bir yapay zeka projesi söz konusu olduğunda herkes ‘Model’den bahsediyor. Bu tamamen anlaşılabilir bir durum; Derin bir sinir ağının birleştiğini ve doğru tahminlerde bulunduğunu görmek büyüleyicidir.
Bu aşamaya geldiğinizde sorunu anlamış ve onu çözecek aracı geliştirmişsiniz gibi hissedersiniz.
… Ama o zaman modele yaşayabileceği güvenli bir yer vermeliyiz! Birdenbire bunu görüyoruz büyük ve karmaşık bir ekosistemin küçük bir parçası haline gelir etrafındaki altyapıyı ve hizmetleri desteklemek. Bütün bunları başlangıçta düşünmedin değil mi?
Çözüm
1. Arabayı değil montaj hattını inşa edin
Yapay zeka modellerini oluşturma ve dağıtmanın getirdiği beklenmedik çabayı ele almak için şunları yapmamız gerekiyor: kolaylaştırın ve otomatikleştirin süreç makine öğrenimi modellerini üretime alma ve ardından bunların bakımına ve izlenmesine odaklanma.
Biz buna yaklaşım diyoruz ‘Önce Boru Hattı’. Boru hatları sonraki projelere kolayca taşınabilir, bu nedenle burada önceden yapılan her türlü çaba, sonraki projelerde tekrar tekrar telafi edilecektir.
Bu aslında Makine Öğrenimi İşlemleridir veya MLOpsbüyük ölçüde borç alan DevOps yazılım mühendisliği dünyasının
ne işe yarar “iyi” MLOps neye benziyor?
- Tekrarlanabilir ve paylaşılabilir veri hatları, analiz ve model eğitimi
- Değişiklikler küçük artışlarla yapılır ve geri alma kolaydır; yalnızca depodaki en son işlemi geri almanız yeterlidir.
- … Var çok daha fazlası içine dalmak için! WTam bir genel bakış için 12 dakikalık web seminerime katılın.
ne işe yarar “kötü” MLOps neye benziyor?
- Yerel olarak özel olarak derlenmiş veri kümeleri, açıklama ve özel kurulum gerektiren ayrı dönüşüm ve eğitim not defterleri
- Ismarlama dağıtımlara para harcamak ve ardından yol boyunca çok sayıda hatayı düzeltmek. Geri alma zor ve yüksek risklidir!
- Özel olarak oluşturulmuş modeller Slack kanalları aracılığıyla paylaşılıyor; hiç kimse hangisinin dağıtıldığından ve geçmişinin ne olduğundan tam olarak emin değil.
2. Varsayımlar merdivenini tırmanın
Konuya aşina olanlar için minimum uygulanabilir ürün (MVP) yaklaşımlar bu çok tanıdık gelecektir. Herkes kendi çalıştayını yaptıktan ve sorunun ne olduğunu bildiğimizi düşündükten sonra, bunu nasıl çözmeyi planladığımızı gösteren erken bir prototipi nasıl sunabiliriz?
İlk önce hangi varsayımları test etmelisiniz? Bu konuda en önemli önceliklerinizin ne olması gerektiğini araştırıyorum isteğe bağlı ücretsiz web semineri.
Vaka Çalışması: Büyük bir demir cevheri madenciliği müşterisinin MVP’si
Sorun sahipleriyle yapılan bir çalıştayın ardından veri bilimi ekibi, otomatik ekipman çarpışmasını algılayacak ve önleyecek bir bilgisayarlı görme modeli oluşturmaya başladı.
Bir veya iki ay içinde koşup komple bir çözüm oluşturmak yerine, bu modelin çok hızlı bir prototipini geliştirdik ve çıktılarının görsel bir temsilini gösterdik. Çok geçmeden hayal kırıklığı yaratan haberi aldık. işe yaramaz.
Çizim tahtasına geri dönmüştük… ama gerçekten bu büyük bir başarıydı! Sahibiz haftalarca veya aylarca boşa harcanan çabadan kaçınıldı bir modeli eğitmek ve ayarlamak, hatta belki de onu dağıtma aşamasına gelip müşterinin ihtiyaçlarını karşılamadığını bulmak. Bu proje ve başka bir son derece alakalı örnek olay hakkında daha fazla ayrıntı için, isteğe bağlı ücretsiz web seminerine göz atın!
Yapay zeka modellerinizden yatırım getirisi elde edin
Şu andaki uygulama, yalnızca tek bir amaç için kullanılabilecek bir modele yüzlerce, binlerce dolar harcamak yönünde. Yapay zekanın ölçeklenebilir ve güvenilir olmasını sağlamak için operasyonel hale getirilmesi ve sistemleştirilmesi, zihniyette bir değişiklik gerektirir.
Çoğu şirket, yapay zekayı öğretme ve kullanma konusunda sandıklarından daha az olgunlaşmıştır. Cevap iki basit kavrama ve bir tanımlayıcı denkleme indirgeniyor. Özetle:
- Özel yapay zeka çözümleri ölçeklendirme pahalı ve karmaşıktır ve
- Yapay zeka ürünleri insanlar için inşa edilmiş ve çalışanların kalplerini ve zihinlerini kazanmamız gerekiyor.
Doğru çabalara yatırım yaptığınızdan ve yapay zeka modellerinizde gerçek değeri fark ettiğinizden emin olmak için, bu denklemi takip et:
Otomatikleştir + Yinele + Doğrula = Üretimde ölçeklenebilir yapay zeka!
Ben, bu blogdaki kavramları AustMine2023’te sundu, sunumun tamamını buradan izleyin.
Ben Caldwell Hakkında
Ben Caldwell, neredeyse 20 yıla yayılan bir kariyer boyunca sektör sorunlarını çözmek için makine öğrenimi modelleri oluşturma ve dağıtma becerisi gösteren bir Kurumsal Mimardır. Bu süre zarfında Ben, su ve madencilik sektörlerinde geniş bir yelpazede kontrol sistemi tasarımı, uygulaması ve devreye alma çözümleri sundu. Süreç kontrolü ve gelişen teknolojilerde sürekli gelişim konusunda güçlü bir geçmişi olan Ben, iş sorunlarını çözmek için değerli veri odaklı yapay zeka çözümleri sunmak üzere müşterilerle yakın işbirliği içinde çalışıyor.