Pyramid77

🔥 Selamat datang di Pyramid77 — Jelajahi tren terbaru tentang stars-slots-casino-games!

Ringkasan Eksekutif

FanDuel, platform taruhan olahraga terkemuka di Amerika yang memproses lebih dari 16,6 juta taruhan saat Super Bowl Sunday 2025, mengembangkan AAI (asisten taruhan bertenaga AI) untuk mengatasi hambatan dalam perjalanan pelanggan. Sebelumnya, pelanggan meninggalkan aplikasi FanDuel untuk meneliti taruhan di platform eksternal, sering kali teralihkan dan kehilangan kesempatan bertaruh. Bekerja sama dengan AWS Generative AI Innovation Center, FanDuel membangun asisten percakapan dalam aplikasi menggunakan Amazon Bedrock yang memandu pelanggan melalui penelitian, penemuan, konstruksi taruhan, dan eksekusi seluruhnya dalam platform mereka. Solusi ini mengurangi waktu konstruksi taruhan dari berjam-jam menjadi detik (terutama untuk parlay kompleks), meningkatkan keterlibatan pelanggan, dan diluncurkan secara bertahap di berbagai negara bagian dan olahraga menggunakan kerangka evaluasi ketat dengan ribuan kasus uji untuk memastikan akurasi dan perlindungan perjudian yang bertanggung jawab.

Latar Belakang

AAI (asisten taruhan AI) FanDuel mewakili penerapan produksi model bahasa besar secara komprehensif di lingkungan yang sangat diatur dan berisiko tinggi. Sebagai sportsbook nomor satu di Amerika, FanDuel memproses volume besar—lebih dari 16,6 juta taruhan selama Super Bowl Sunday 2025 saja, dengan hampir 3 juta pengguna aktif dan puncak 70.000 taruhan per menit. Perusahaan beroperasi dalam lanskap regulasi yang kompleks di mana aturan taruhan olahraga sangat bervariasi antar negara bagian, dengan persyaratan residensi data yang ketat diatur oleh Wire Act yang memastikan semua transaksi taruhan tetap berada dalam batas negara bagian.

Awal mula AAI berasal dari hackathon global pada awal 2024 di mana FanDuel mengumpulkan ratusan peserta—insinyur, ilmuwan data, pemimpin bisnis, dan eksekutif C-suite—untuk mengidentifikasi peluang terbaik dalam menerapkan AI generatif. Konsep pemenang mengatasi hambatan fundamental dalam perjalanan pelanggan: petaruh akan meneliti informasi di luar aplikasi FanDuel (di Google, TikTok, dll.), menjadi terganggu, dan kehilangan kesempatan bertaruh. Perjalanan pelanggan tipikal melibatkan penelitian, penemuan taruhan yang tersedia, konstruksi taruhan (terutama parlay kompleks), dan eksekusi—sebuah proses yang bisa memakan waktu berjam-jam dan sering kali menghasilkan sesi taruhan yang ditinggalkan.

Kemitraan dan Pendekatan Pengembangan

FanDuel bermitra dengan AWS Generative AI Innovation Center, tim global yang terdiri dari ahli strategi dan ilmuwan yang berdedikasi untuk memberikan solusi AI generatif dalam skala besar (AWS menginvestasikan lebih dari $200 juta di tim ini). Kemitraan dimulai dengan sederhana hanya dengan satu insinyur FanDuel yang bekerja bersama 3-4 ilmuwan data AWS dalam kapasitas penasihat—pada dasarnya menyediakan bimbingan tentang arsitektur, pemilihan layanan, dan berbagi kode. Awal yang sederhana ini menciptakan efek "train the trainer", di mana insinyur awal menjadi katalisator untuk adopsi AI yang lebih luas di seluruh FanDuel. Kemitraan tersebut akhirnya meluas menjadi 15 keterlibatan, 10 di antaranya mencapai produksi, dengan 20-30 lagi direncanakan.

Proses pengembangan mengikuti jalur terstruktur: validasi ide melalui panggilan diagnostik 60 menit dengan eksekutif senior dan pimpinan teknik; lokakarya penemuan untuk mengidentifikasi kebutuhan pelanggan, tantangan, KPI, dan persyaratan; pembuatan prototipe cepat; dan akhirnya peluncuran produksi. Seluruh perjalanan dari konsep hingga penerapan produksi terjadi dengan sangat cepat—dalam hitungan minggu, bukan bulan atau tahun—menunjukkan nilai eksperimen cepat dan API yang konsisten untuk interaksi model.

Arsitektur dan Implementasi Teknis

Arsitektur produksi AAI dibangun di atas teknologi serverless AWS, dengan API Gateway menangani pembatasan kecepatan, autentikasi, dan otorisasi di titik masuk. Fungsi AWS Lambda berfungsi sebagai lapisan komputasi utama, dipilih secara khusus karena FanDuel pada awalnya tidak mengetahui volume lalu lintas yang diharapkan. Lambda menyediakan penskalaan serverless dengan kebutuhan memori rendah dan menangani logika routing serta pengumpulan data.

Sistem mengimplementasikan pola retrieval-augmented generation (RAG) dengan beberapa sumber data. Instans EC2 dan kluster EKS menjadi host layanan sportsbook utama dan data yang memberi makan LLM. Amazon RDS menyimpan statistik pemain dan tim. ElastiCache (Redis) menyediakan caching untuk data yang sering diakses—penting untuk kinerja karena banyak pelanggan sering bertaruh pada pertandingan yang sama. DynamoDB memiliki dua tujuan: caching data yang sering diakses dan, yang penting, menyimpan riwayat percakapan untuk memberikan konteks bagi LLM.

Amazon Bedrock berfungsi sebagai platform model dasar, dipilih karena beberapa alasan utama: kemudahan belajar dan orientasi tim yang cepat, pemilihan model yang luas memungkinkan eksperimen, penskalaan serverless tanpa pengelolaan infrastruktur, dan harga berbasis token yang hemat biaya. FanDuel bereksperimen dengan beberapa model termasuk Claude Haiku dan Meta Llama sebelum menetapkan Amazon Nova Light dan Nova Pro karena keseimbangan kinerja dan efektivitas biaya. API Bedrock yang konsisten memungkinkan pembuatan prototipe cepat tanpa pengembang perlu mengelola beberapa SDK kepemilikan, kerangka autentikasi khusus, atau sistem observabilitas yang berbeda—mereka hanya bisa mengubah ID model untuk bereksperimen dengan LLM yang berbeda.

Aliran Data dan Routing Berbasis Intensi

AAI mengimplementasikan pola alur kerja multi-intensi. Saat prompt pelanggan tiba, sistem pertama kali melakukan panggilan "get intent" ke Bedrock untuk menentukan apa yang diinginkan pelanggan. Berdasarkan klasifikasi intensi ini, fungsi Lambda merutekan permintaan ke sumber data yang sesuai—RDS untuk statistik, instans EC2/EKS untuk layanan sportsbook. Informasi yang diambil dikirim kembali ke Bedrock untuk penyempurnaan dan pemformatan sebelum ditampilkan kepada pelanggan.

Jenis intensi yang berbeda mendapatkan penanganan yang berbeda. Prompt perjudian yang bertanggung jawab (seperti "Saya akan kehilangan rumah saya") memicu respons statis langsung yang mengarahkan pengguna ke sumber daya perjudian yang bertanggung jawab. Pertanyaan statistik ("statistik tentang Donovan Mitchell") mengambil data dari RDS, yang kemudian diformat oleh Bedrock sesuai dengan prompt. Permintaan konstruksi taruhan menarik dari beberapa sumber untuk merakit parlay kompleks.

Manajemen Konteks dan Riwayat Percakapan

Tantangan teknis kritis muncul terkait manajemen konteks. Awalnya, tim tidak sepenuhnya mengantisipasi kebutuhan akan memori percakapan. Saat pelanggan mengajukan pertanyaan lanjutan menggunakan kata ganti ("buatkan parlay untuknya" setelah bertanya tentang Donovan Mitchell), LLM tidak memiliki konteks untuk memahami referensi tersebut. Masalah ini menjadi sangat akut dengan banyak pemain dan tim dalam satu percakapan.

Solusinya melibatkan penggunaan DynamoDB sebagai memori percakapan. Untuk setiap prompt baru, sistem mengambil prompt sebelumnya dari sesi pelanggan tersebut dan memberikannya ke LLM, memungkinkan pemahaman kontekstual. Ini mewakili pembelajaran penting tentang perubahan paradigma yang diperlukan untuk pengembangan AI generatif—siklus pengujian dan pengembangan fungsional tradisional tidak secara langsung diterjemahkan, dan tim harus memahami perilaku spesifik LLM seperti halusinasi dan kebutuhan akan konteks yang eksplisit.

Optimasi Kinerja dan Pengurangan Latensi

Latensi menimbulkan tantangan signifikan. FanDuel beroperasi dengan "aturan 1 detik" untuk respons pencarian, tetapi implementasi awal AAI memiliki latensi P99 12 detik—tidak dapat diterima untuk pengalaman pelanggan. Tim menggunakan strategi optimasi tradisional dan khusus AI. Pendekatan tradisional termasuk caching agresif di Redis untuk data yang sering diminta (seperti informasi pertandingan malam ini yang akan ditanyakan banyak pelanggan). Optimasi khusus AI melibatkan bekerja dengan AWS untuk menyetel model dan memilih varian model yang lebih efisien.

Upaya gabungan ini mengurangi latensi P99 dari 12 detik menjadi sekitar 5 detik—masih di atas ideal 1 detik tetapi dapat diterima untuk interaksi percakapan yang kompleks. Kasus ini menunjukkan bahwa optimasi model saja tidak cukup; pola arsitektur tradisional seperti caching tetap penting untuk aplikasi berbasis LLM.

Menangani Kompleksitas Olahraga Waktu Nyata

Taruhan olahraga menghadirkan tantangan waktu nyata yang unik. Selama pertandingan langsung, terutama yang cepat seperti basket, peluang berubah terus-menerus. Saat LeBron James mendekati pencapaian skor, probabilitas dan harga harus diperbarui secara waktu nyata. Ini menciptakan tantangan bagi pelanggan dan LLM dalam membangun taruhan dengan cukup cepat.

Solusi FanDuel untuk skenario langsung membatasi AAI pada taruhan tunggal daripada parlay kompleks. Saat pelanggan meminta parlay selama pertandingan langsung, sistem menjelaskan bahwa parlay langsung tidak tersedia tetapi menawarkan alternatif taruhan tunggal yang relevan. Ini mewakili keputusan produksi pragmatis—mengutamakan akurasi dan pengalaman pengguna daripada kelengkapan fitur dalam kasus tepi yang menantang.

Perilaku Pelanggan dan Penanganan Ketidakjelasan

Wawasan kunci dari penerapan produksi: pelanggan memperlakukan AI percakapan seperti mesin pencari, menggunakan kata kunci samar daripada kalimat lengkap. Saat pelanggan hanya mengetik "taruhan", AAI merespons secara percakapan dengan mengajukan pertanyaan klarifikasi—olahraga mana (NFL, NBA, NHL), pertandingan mana, pemain mana. Dialog multi-giliran ini mencerminkan percakapan manusia dan memandu pelanggan ke peluang taruhan spesifik melalui pendekatan berbasis saran.

Sistem juga menangani slang dan istilah sehari-hari spesifik olahraga—"LBJ" untuk LeBron James, "the birds" untuk Philadelphia Eagles. Meskipun tim mengakui ini bukan solusi yang lengkap dan tetap menjadi tantangan berkelanjutan, mereka telah mengimplementasikan pemetaan untuk istilah umum. Ini menyoroti sifat jangka panjang dari sistem LLM produksi di mana kasus tepi terus muncul.

Perjudian yang Bertanggung Jawab dan Keamanan

Perjudian yang bertanggung jawab menjadi pusat desain AAI, mencerminkan komitmen FanDuel untuk menetapkan standar industri sebagai operator yang bertanggung jawab. Sistem ini mencakup perlindungan eksplisit untuk mendeteksi prompt yang mengkhawatirkan terkait masalah perjudian dan segera merespons dengan tautan ke sumber daya perjudian yang bertanggung jawab. Ini mewakili perbedaan kritis dari tahap prototipe, di mana kasus tepi seperti "Saya akan mempertaruhkan rumah saya" tidak ditangani—dapat diterima dalam prototipe tetapi tidak dapat diterima dalam produksi yang berhadapan dengan pelanggan.

Asisten ini secara eksplisit dirancang sebagai alat penelitian dan penemuan, bukan sistem pemberi rekomendasi. Ia tidak menyarankan taruhan secara otonom tetapi merespons prompt pelanggan, mempertahankan kendali pelanggan sepanjang perjalanan. Filosofi desain ini menyeimbangkan bantuan AI dengan penilaian manusia, menghindari otonomi penuh demi pendekatan asistif di mana pelanggan mempertahankan wewenang pengambilan keputusan di setiap langkah.

Kerangka Evaluasi dan Strategi Pengujian

Siklus pengembangan berbasis pengujian tradisional tidak cocok untuk aplikasi LLM, sehingga FanDuel mengembangkan kerangka evaluasi komprehensif. Mereka membuat rangkaian pengujian dengan ribuan kasus uji yang diatur dalam kategori, masing-masing dengan ambang akurasi yang ditentukan. Setiap perubahan pada empat faktor kritis—model, prompt, data, atau kode—memicu evaluasi terhadap ambang batas ini.

Hasil dikategorikan sebagai regresi (di bawah ambang, memerlukan investigasi), progresi (di atas ambang, berpotensi menetapkan dasar baru), atau sesuai harapan. Ini menyediakan metrik kuantitatif untuk perubahan model, perubahan data, dan pembaruan kode. Saat AWS merilis Nova Light 2 (disebutkan dirilis "kemarin" selama presentasi), FanDuel dapat segera mengujinya terhadap rangkaian tolok ukur mereka untuk memastikan tidak ada regresi.

Di luar pengujian statis, ilmuwan data memonitor interaksi pelanggan langsung melalui lingkaran umpan balik, menggunakan evaluasi statis dan dinamis dengan perbandingan kebenaran dasar. Ini menemukan kategori baru interaksi dan prompt, yang kemudian diumpankan kembali ke rangkaian pengujian—menciptakan siklus perbaikan berkelanjutan. Tim memilih akurasi sebagai metrik produksi utama mereka daripada ukuran yang lebih akademis seperti presisi dan recall, meskipun itu tetap relevan untuk tim ilmu data.

Strategi Peluncuran dan Penerapan Bertahap

Strategi peluncuran FanDuel menekankan pembelajaran dan akurasi melalui penerapan bertahap: satu olahraga pada satu waktu, satu negara bagian pada satu waktu. Pilot alfa melibatkan sekelompok kecil "pelanggan ramah" yang memberikan umpan balik cepat tentang cara chatbot bekerja dan bagaimana mereka berinteraksi dengannya. Ini berkembang menjadi rilis beta sepanjang 2025 (Q1, Q2, dan beta 3 yang sedang berlangsung), secara bertahap memperluas cakupan geografis dan olahraga.

Pendekatan hati-hati ini mencerminkan sifat berisiko tinggi dari taruhan olahraga—kesalahan dapat mengakibatkan kerugian finansial, pelanggaran regulasi, atau kerusakan kepercayaan pelanggan. Strategi bertahap juga mendukung tujuan pembelajaran mereka tentang pola perilaku pelanggan dan kinerja teknis di bawah beban yang bervariasi.

Sensitivitas Model dan Manajemen Drift

Tim menemukan bahwa model sangat sensitif terhadap perubahan dalam berbagai dimensi. Sumber data yang digunakan oleh AAI (alat) sering dibagikan dengan layanan FanDuel lainnya, sehingga perubahan yang dibuat untuk tujuan lain dapat memengaruhi kinerja LLM. Pola prompt pelanggan berevolusi seiring waktu saat pengguna belajar berinteraksi dengan AI percakapan secara lebih efektif. Pembaruan model dari penyedia memperkenalkan potensi pergeseran kinerja. Semua faktor ini menciptakan drift yang harus dipantau dan dikelola.

Kerangka evaluasi mengatasi ini dengan memperlakukan setiap perubahan sebagai pemicu pengujian. Pendekatan komprehensif ini memastikan bahwa faktor eksternal (perubahan layanan bersama) dan evolusi perilaku pengguna tidak secara diam-diam menurunkan kinerja. Ini mewakili pemikiran matang tentang operasi LLM produksi di mana kinerja model tidak statis tetapi memerlukan pemantauan dan penyesuaian berkelanjutan.

Arah Masa Depan dan Teknologi Baru

FanDuel secara aktif menjajaki beberapa teknologi baru. Mereka mengevaluasi Model Context Protocol (MCP) untuk kasus penggunaan internal. Bedrock Agent Core, diluncurkan di AWS New York Summit, menawarkan primitif untuk runtime, identitas, dan observabilitas yang dirancang khusus untuk aplikasi AI agen. Sementara fungsi Lambda telah melayani AAI dengan baik, Agent Core menyediakan kemampuan untuk beban kerja mulai dari milidetik hingga durasi 8 jam, berpotensi lebih cocok seiring AAI menambahkan lebih banyak fitur dan kompleksitas.

Respons streaming API Gateway mewakili area investigasi aktif lainnya. Kemampuan ini memungkinkan streaming respons Bedrock langsung ke pengguna daripada batch atau chunk, berpotensi meningkatkan pengalaman pengguna lebih lanjut. FanDuel juga menjajaki AWS Strands SDK untuk menyediakan pola yang konsisten dalam membangun aplikasi AI generatif.

Metrik dan Dampak Bisnis

Sementara presentasi berfokus pada implementasi teknis, metrik bisnis dicatat. Dampak paling dramatis: waktu konstruksi taruhan turun dari berjam-jam (terutama untuk parlay kompleks) menjadi detik. Penelitian internal menunjukkan pelanggan biasanya menghabiskan berjam-jam meneliti dan membangun parlay; AAI mengurangi ini menjadi hanya beberapa detik dalam demonstrasi. Pengurangan waktu ini secara langsung mengatasi masalah inti—pelanggan meninggalkan aplikasi, menjadi terganggu, dan kehilangan kesempatan bertaruh.

Metrik keberhasilan mencakup tiga kategori: berbasis peristiwa (menghitung penggunaan AAI, mengukur tingkat drop-off, melacak taruhan yang ditinggalkan), berbasis waktu (total waktu perjalanan, waktu per sub-bagian seperti konstruksi taruhan), dan interaktif (CSAT dan umpan balik pelanggan langsung). Pendekatan pengukuran multi-dimensi ini memberikan visibilitas ke dalam kinerja teknis dan kepuasan pelanggan.

Pelajaran Produksi dan Perubahan Paradigma

Studi kasus ini menekankan beberapa perubahan paradigma yang diperlukan untuk operasi LLM produksi. Pengembangan AI generatif berbeda secara fundamental dari pengembangan perangkat lunak tradisional dalam pendekatan pengujian, metodologi debugging, dan jaminan kualitas. Tim harus mengembangkan intuisi baru tentang perilaku model, memahami pola halusinasi, dan mendesain untuk sistem probabilistik daripada deterministik.

Pentingnya API dan platform yang konsisten (seperti Bedrock) tidak bisa dilebih-lebihkan untuk eksperimen cepat. Pendekatan tradisional seperti caching tetap sangat relevan di samping optimasi khusus AI. Kebutuhan akan manajemen konteks eksplisit melalui penyimpanan riwayat percakapan mewakili persyaratan tidak jelas yang muncul melalui pengalaman produksi. Terakhir, peluncuran bertahap dengan kerangka evaluasi yang ketat memberikan keamanan dan pembelajaran yang diperlukan untuk aplikasi berisiko tinggi di industri yang diatur.

Perjalanan FanDuel dari ide hackathon hingga penerapan produksi dalam hitungan minggu menunjukkan apa yang mungkin dilakukan dengan kemitraan yang tepat, definisi masalah yang jelas, filosofi pembuatan prototipe cepat, dan kesediaan untuk belajar dari penerapan produksi daripada mencari kesempurnaan sebelum peluncuran.

Keamanan dimulai dengan memahami cara developer mengumpulkan dan membagikan data Anda. Praktik privasi dan keamanan data dapat bervariasi berdasarkan penggunaan, wilayah, dan usia Anda.

T: Bagaimana cara mengunduh Pyramid77?
J: Cukup klik tombol instal berwarna hijau di bagian atas dan ikuti instruksi amannya.

T: Apakah Pyramid77 sudah terverifikasi?
J: Ya! Pyramid77 telah menyelesaikan proses verifikasi resmi dan mendapatkan sertifikat keamanan.