html Permainan Bayangan Jari|AHALab PBL
Seni Cahaya dan Bayangan × Pemrograman Game × Visi Komputer AI

Teater Bayangan Jari

Gunakan jari tangan untuk memainkan wayang kulit

Pertama-tama buatlah wayang kulit bersendi dan lengkapi dengan alat peraga. Setelah kamera mengenali jari-jari tersebut, Anda dapat menggunakan kelima jari tersebut untuk mengontrol kepala dan anggota tubuh boneka, lalu membuat adegan atau permainan dengan pasangan.

Ilustrasi konsep promosi wayang kulit: kamera menangkap jari, Sun Wukong dan Nezha tampil dengan alat peraga di layar bawah.
Gambar konsep promosi · klik untuk melihat gambar lebih besar; untuk pengoperasian sebenarnya, silakan masuk ke stasiun eksperimen isyarat.
Rencana pelajaran untuk usia 7 hingga 15 tahun4 pelajaran singkat / 8 pelajaran misi utama1 tangan 1 peran10 Tangan sebagai target percobaan
01 / Apa yang harus dilakukan kali ini

Mainkan wayang kulit yang juga bisa diikuti oleh teman sekelas

Bagaimana cara membuat wayang kulit mengikuti gerakan tangan dan juga membiarkan teman sekelas langsung memainkannya?

Rancang karakter Anda sendiri terlebih dahulu

Beri nama, pikirkan sesuatu yang harus dilakukan, lalu gambar kepala, badan, anggota badan, dan alat peraga. Anda dapat memotong kertas atau menggambar di papan gambar digital; setelah selesai, lanjut ke panggung untuk mencoba tindakan, dan melakukan perubahan jika timbul masalah.

Simpan kartu karakter, gabungan wayang kulit, rancangan sebelum dan sesudah modifikasi, aturan kendali, dan catatan percobaan, dan terakhir lakukan drama pendek berdurasi dua menit.

Setiap kelompok beranggotakan 3 sampai 4 orang yang bergiliran mengoperasikan wayang, menulis program, menguji, dan mengatur pertunjukan. Setiap orang harus menjelaskan satu pilihan yang mereka buat dan apa yang kemudian mereka ubah.

Bagaimana melakukannya di kelas

Pertama-tama lakukan suatu tindakan, tuliskan aturan kontrolnya, lalu biarkan karakter mengikutinya. Mintalah rekan untuk melakukan uji coba, catat kegagalannya, temukan alasannya, lalu modifikasi.

Usia 7 hingga 9 tahun pertama kali melakukan latihan peran dan ekspresi tindakan; siswa yang lebih tua kemudian mempelajari klasifikasi fitur, pelatihan model tangan, dan pelacakan banyak orang.

02 / Dalang bersama

Satu tangan mengontrol satu karakter.

Gerakan TanganRespon KarakterApa yang bisa dipelajari
Gerakan Telapak TanganMencapai posisi panggung setelah kalibrasiKoordinat, mirroring, pemetaan, dan kesalahan.
Rentangkan dan tekuk setiap jari secara terpisahMemutar kepala dengan jari tengah, menggerakkan kedua lengan dengan jari telunjuk dan jari manis, menggerakkan kedua kaki dengan ibu jari dan kelingkingSambungan, sudut, dan animasi berlapis
Jepit ibu jari dan jari telunjuk bersamaanBulan cerah, tangkap targetnyaRasio, ambang batas, dan histeresis
Gerakan V / mengangkat ibu jari / membuka telapak tangan setelah mengepalkan tanganLompat / Putar / Gunakan item (dapat diubah)Urutan tindakan, waktu konfirmasi, dan cooldown
Satukan jari/buka telapak tangan setelah mendekati alat peragaMengambil dan memindahkan/meletakkan alat peraga; jaga setengah genggaman saat memegang.Status tindakan, histeresis, dan kepemilikan item
Putar telapak tangan ke sisi yang lainBalikkan karakter, dawai boneka, dan alat peraga pribadi secara bersamaanOrientasi 3D dan konfirmasi berkelanjutan
Tangan kembali setelah keluarPertahankan peran aslinya, pulihkan setelah konfirmasi; ikat secara manual jika tidak yakinPelacakan, pencocokan ulang, dan penanganan pengecualian
1

Kendalikan satu wayang kulit terlebih dahulu
Pindah ke posisi yang ditentukan setelah kalibrasi, lalu berhenti

2

Masing-masing tangan mengontrol satu karakter
Amati apakah ada orang yang berpindah setelah menyeberang atau memblokir

4

Tes Kerjasama Empat Tangan
Rekam sinkronisasi dan nomor seri karakter

10

Tes Performa Sepuluh Tangan
Tentukan jumlah maksimal peserta setelah pengujian

Boneka bayangan opsional: Sun Wukong, Nezha, Zhu Bajie, Erlang Shen, Hua Mulan, Jade Rabbit, Chang'e. Senar boneka ditampilkan secara default dan dapat dialihkan ke joystick atau koneksinya disembunyikan.

Panggung dapat diubah menjadi Pemandangan Cahaya Bulan, Gunung Bunga-Buah, Kolam Teratai, atau Pasar Lentera. Lentera, buah persik peri, bola bunga, dan kupu-kupu dapat dipindahkan; meja dapat menampung barang-barang, dan drum serta kincir akan merespons. Anda bisa memilih backdrop sesuai kombinasi karakter, atau menatanya sendiri.

Program saat ini memiliki sepuluh slot karakter, dan jumlah tangan yang dikenali juga dapat diatur menjadi sepuluh. Apakah sepuluh tangan asli dapat dikontrol secara stabil belum diverifikasi. Demonstrasi sepuluh karakter menggunakan masukan simulasi, yang akan ditandai dengan jelas di halaman.

03 / Penataan kelas

Pilih serangkaian pelajaran yang cocok untuk siswa

Pertama-tama pilih rencana pengajaran berdasarkan usia, kemudian sesuaikan tingkat kesulitannya berdasarkan pengalaman membaca, pengoperasian, dan eksperimen siswa.

Usia dan Jam KelasApa yang dikatakan dan dilakukan di kelasBuka pelajarannya
7 sampai 9 tahun
4 kali × 60 menit
'Gerakkan jari tengahmu dan lihat apa yang bergerak.'
Selangkah demi selangkah, bisa menggambar, menunjuk, atau mendeskripsikan secara lisan.
Empat Pelajaran Singkat ↗
10 hingga 12 tahun
8 kali × 90 menit
“Ubah saja satu pengaturan, lalu coba tujuan yang sama lagi.”
Tulis aturannya, catat hitungannya, dan biarkan partner baru mencobanya.
Catatan pengajaran untuk kedelapan pelajaran ↗
13 hingga 15 tahun
8 kali × 90 menit
“Catatan manakah yang mendukung penilaian Anda?”
Baca sebagian kecil kode, rancang perbandingan, jelaskan rentang hasil yang dapat diterapkan.
Catatan pengajaran untuk kedelapan pelajaran ↗

Setiap kelas mencakup pertanyaan-pertanyaan di kelas, tempat-tempat di mana siswa mungkin mengalami kesulitan, dan bagaimana guru dapat membantu, ditambah tugas kecil sebelum akhir. Rencana rinci guru dan proyeksi siswa lima halaman dapat dialihkan, dan lembar rekaman dapat dicetak. Kelas penelitian untuk usia 15 tahun ke atas dijadwalkan secara terpisah.

Usia sebagai acuan perencanaan pembelajaran; pemilihan kursus juga tergantung pada pengalaman membaca, operasional, dan eksperimental siswa yang ada. Di bawah ini adalah ringkasan delapan pelajaran untuk anak usia 10 hingga 12 tahun.

L01Buatlah boneka yang bergerak90 menit

Tanpa menyebutkan nama, bagaimana Anda bisa membiarkan pasangan Anda memahami apa yang dilakukannya?

Gambarlah kepala, badan, anggota badan, dan penyangga, dan tandai titik sambungannya. Biarkan rekan menebak suatu tindakan dan memodifikasi satu bagian sesuai dengan masukannya.

Pengetahuan yang akan digunakan
Kontur, tembus cahaya, sambungan berongga, sambungan, karakter, dan alat peraga
Cara mengaturnya
10 menit untuk melihat outline dan menebak karakter → 10 menit untuk menulis kartu karakter → 15 menit untuk mencoba satu sambungan → 30 menit untuk pembuatan tersegmentasi → 20 menit untuk bertindak tanpa menyebutkan nama → 5 menit untuk merapikan dua draf
Tinggalkan Sesuatu
Kartu karakter, diagram fragmen yang menandai sambungan, rekan-rekan menebak kata-kata asli tindakan, draf sebelum dan sesudah modifikasi.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L02Mengapa salah teridentifikasi dalam pengambilan gambar90 menit

Jika tangan sedikit terhalang, apa yang terjadi pada titik di layar?

Identifikasi titik-titik kunci tangan, bedakan adegan, kerangka, dan tindakan karakter. Hanya ubah satu faktor dalam oklusi atau pencahayaan, dan catat kedua kondisi tersebut.

Pengetahuan yang akan digunakan
Piksel, deteksi, 21 titik kunci tangan, keluaran model, dan aturan
Cara mengaturnya
10 menit bermain dulu lalu mengamati → 20 menit menggambar proses pengenalan → 25 menit menutup bagian dan mencoba lagi → 20 menit bertukar catatan → 15 menit menjelaskan menggunakan bukti
Tinggalkan Sesuatu
Satu diagram kerangka berlabel, dua set perbandingan kondisi, dan satu kesalahan yang penyebabnya belum dapat ditentukan.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L03Hentikan wayang kulit di tempat yang Anda inginkan.90 menit

Bisakah tangan Anda menjangkau kedua sisi panggung tanpa melakukan peregangan terlalu jauh?

Selesaikan kalibrasi menggunakan dua sudut yang nyaman, dan jangkau bagian tengah dan sudut. Bandingkan dua tingkat pemulusan pada target yang sama dan jelaskan pilihan Anda.

Pengetahuan yang akan digunakan
Koordinat, pencerminan, pemetaan jangkauan, penghalusan, dan penundaan dinormalisasi
Cara mengaturnya
10 menit posisi titik di atas kertas → 15 menit memprediksi pemetaan → 20 menit mengkalibrasi dan memutar → 30 menit menetapkan dua level untuk perbandingan → 15 menit memilih dan menjelaskan
Tinggalkan Sesuatu
Catat dua pengaturan parameter dengan sasaran yang sama, bandingkan sebelum dan sesudah kalibrasi, dan jelaskan alasan pemilihan parameter.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L04Masing-masing dari lima jari mengontrol satu bagian90 menit

Bagaimana caranya membuat karakter hanya bertindak saat Anda menginginkannya?

Sambungkan lima jari dengan benar ke kepala dan anggota badan, lalu coba dua gerakan ibu jari. Tulis aturan 'Kapan...lalu...' dan periksa apakah berhasil dan salah ketuk rekaman.

Pengetahuan yang akan digunakan
Penilaian bersyarat, proporsi, ambang batas, histeresis, durasi, peristiwa
Cara mengaturnya
10 menit untuk menebak terlebih dahulu garis mana yang akan bergerak → 15 menit untuk mencari amplitudo yang sesuai untuk ibu jari → 20 menit untuk menulis aturan tindakan → 30 menit untuk mencoba dua kategori → 15 menit untuk mengambil dan memasang alat peraga dan membaca.
Tinggalkan Sesuatu
Kartu koneksi lima jari, satu aturan bersyarat, catatan terpisah dari 10 tindakan yang disengaja dan 10 gerakan normal.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L05Undang teman untuk memainkan game Anda90 menit

Jika Anda tidak berdiri di samping untuk menjelaskan, apakah teman sekelas tahu apa yang harus dilakukan?

Rancang tugas kecil dengan kondisi penyelesaian menggunakan adegan dan alat peraga yang ada. Amati dua pemain baru dan ubah aturan berdasarkan di mana mereka terjebak.

Pengetahuan yang akan digunakan
Variabel, penilaian, tabrakan, status, masukan permainan
Cara mengaturnya
10 menit untuk mengerjakan tugas → 15 menit untuk menulis peraturan di atas kertas → 30 menit untuk desain set dan pengujian mandiri → 25 menit untuk mengundang dua pemain baru → 10 menit disediakan untuk satu revisi
Tinggalkan Sesuatu
Satu kartu aturan, satu tugas yang dapat dijalankan, catatan percobaan pertama setidaknya dua pemain baru, dan satu modifikasi.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L06Dua tangan, jangan salah ganti karakter90 menit

Anda dan pasangan bertukar tempat; apakah rolenya masih mengikuti tangan aslinya?

Gunakan angka untuk membedakan 'siapa' dan 'di mana'. Uji langkah pertukaran tangan, penutup, dan keluar dengan prosedur yang sama, catat apakah terjadi kesalahan.

Pengetahuan yang akan digunakan
Deteksi dan pelacakan, ID unik, asosiasi data, oklusi, degradasi
Cara mengaturnya
10 menit untuk pertama kali bermain dengan kartu bernomor → 15 menit untuk menulis perjanjian yang mengikat → 30 menit untuk mencoba masing-masing dari tiga skenario sebanyak tiga kali → 20 menit untuk mengambil kembali pemain yang keluar → 15 menit untuk menjelaskan kepada kelompok berikutnya
Tinggalkan Sesuatu
Catatan identitas untuk tiga skenario masing-masing tiga kali, satu langkah gagal yang dapat direproduksi, dan satu kalimat yang menjelaskan kemampuan bersyarat.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L07Ganti orangnya, apakah masih bisa dikenali?90 menit

Ia mengenali tangan saya; bisakah ia mengenali tanganmu?

Pisahkan sampler dan penguji, catat berapa banyak segmen yang diambil sampelnya untuk setiap jenis. Gunakan upaya dari pengambil sampel yang tidak berpartisipasi untuk menunjukkan tindakan mana yang mungkin salah diidentifikasi.

Pengetahuan yang akan digunakan
Fitur, label, set pelatihan, set pengujian, pengklasifikasi, matriks kebingungan
Cara mengaturnya
. 10 minutes to guess the change result → 20 minutes to collect in segments → 20 minutes to review outputs and try use → 25 minutes for B to test independently → 15 minutes to review predictions
Tinggalkan Sesuatu
Kartu data yang dicatat berdasarkan orang dan segmen, hasil klasifikasi non-peserta, kasus kesalahan atau penolakan, dan instruksi cakupan yang berlaku.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

L08Buat adegan dan undang teman sekelas untuk menonton90 menit

Bisakah penonton memahami apa yang terjadi dan juga mempelajari cara bermainnya?

Menampilkan cerita berdurasi dua menit dengan awal dan akhir menggunakan karakter, adegan, dan alat peraga. Setiap orang menggunakan observasi satu kali untuk menjelaskan modifikasinya.

Pengetahuan yang akan digunakan
Narasi, kegunaan, pengukuran, tanda tangan, refleksi
Cara mengaturnya
15 menit untuk menyusun urutan cerita → 20 menit untuk latihan kelompok → 25 menit untuk penampilan dan mengajak orang lain untuk mengalami → 20 menit untuk mendengarkan masukan dan mendiskusikan revisi → 10 menit untuk mengatur pekerjaan
Tinggalkan Sesuatu
Sepotong dua menit, setiap orang memberikan satu penjelasan rinci, satu formulir umpan balik penonton, dan satu perubahan untuk versi berikutnya.

Rencana pembelajaran untuk guru usia 10 hingga 12 tahun ↗ · Rencana pembelajaran untuk guru usia 13 hingga 15 tahun ↗

RPP ini masih berupa rancangan untuk persiapan pembelajaran dan belum diuji coba. Dalam Pelajaran Tujuh, gerakan pribadi dapat dipelajari menggunakan kNN pada perangkat ini; pelatihan jaringan saraf pose tangan masih dijadwalkan untuk pelajaran tambahan.

04 / Pengakuan dan pengujian

Lihat mengapa terjadi kesalahan pengenalan

Kamera→Poin Kunci Tangan→Pengikatan Karakter→Aksi dan koordinat→Panggung wayang kulit / Desktop

Gunakan MediaPipe di kelas; dalam sesi penelitian, lihat YOLO

Di kelas, gunakan MediaPipe untuk mengidentifikasi titik kunci tangan terlebih dahulu. YOLO26 Pose universal beban mengenali kerangka manusia; untuk mengontrol jari, model tangan terpisah perlu dilatih atau diperoleh, yang diperuntukkan bagi siswa yang lebih tua untuk diteliti.

Menurut:Panduan resmi MediaPipe · Dokumentasi Pose Ultralitik

Uji seberapa akuratnya

Gunakan penentuan posisi lima titik untuk memeriksa kesalahan posisi; juga merekam getaran saat tangan berhenti, penundaan dari gerakan tangan ke respons layar, pemicu gerakan yang tidak disengaja, dan pertukaran karakter yang salah. Batas parameter, frame rate yang masuk akal, dan jumlah aktual yang dapat diputar juga harus diverifikasi secara terpisah.

Pengenalan berjalan secara lokal di perangkat ini dan tidak merekam video secara otomatis. Saat ini, dimungkinkan untuk berlatih menggunakan keyboard dan mouse atau menyalakan kamera, memainkan permainan ‘Tangkap Bulan’, dan juga menempatkan wayang kulit di jendela desktop transparan; ada juga fungsi klasifikasi isyarat pribadi. Pelatihan multi-layar, editor blok, dan model titik tombol tangan belum diterapkan.

Komposisi bahasa Mandarin / SD Mandarin kelas 3 hingga 6

Bertindak dulu, lalu menulis tentang sesuatu

Pindahkan sepuluh tugas seperti "Aku Menulis Dongeng", "Adaptasi Cerita Baru", dan "Metamorfosis" ke panggung wayang kulit. Pertama, buatlah segmen, lakukan untuk mitra, rekam tindakan dan dialog, lalu tulis artikel Anda sendiri. Setiap tugas mencakup persiapan guru, cerita tiga bingkai, catatan observasi, dan pertanyaan revisi.

Buka permainan bayangan jari · Tulisan Cina ↗ · Lihat rencana pelajaran untuk sepuluh tugas ↗

Anda dapat memilih peran dan adegan, dan dialog Anda akan muncul di teleprompter panggung. Komposisi disimpan di browser saat ini, mendukung pencetakan, ekspor, dan pencadangan. Tugas-tugas ini sesuai dengan unit komposisi untuk Kelas 3 sampai 6 di sekolah dasar Tiongkok. Silakan gunakan buku teks kelas Anda saat menerapkannya.

Pemilihan Topik Drama / Pameran Inggris

Satu baris, satu tindakan

Mementaskan drama pendek berbahasa Inggris dengan wayang kulit. Pertama-tama dengarkan guru membacakan, lingkari secara manual kata-kata yang memerlukan bantuan, kemudian putar peran narator, dialog, dan dalang. Tiga rencana pelajaran khusus usia mencakup enam drama pendek. Di panggung, Anda dapat mendengarkan demonstrasi, membuka mikrofon untuk mengikutinya, lalu menggabungkan baris dan tindakan untuk dilakukan.

Buka kursus drama bahasa Inggris ↗

Gunakan cerita ini sebagai pengganti cerita di J04 atau L08 tanpa menambah waktu pelajaran. Rekam dan putar ulang setiap baris. Baris sebelumnya dan berikutnya berwarna abu-abu; garis saat ini berwarna hitam. Kata-kata yang telah dibaca dan memenuhi ambang batas latihan berubah menjadi biru; yang lainnya tetap tidak berubah. Guru dapat menyesuaikan ambang batas tersebut untuk kelompok umur. Referensi pengucapan belum dikalibrasi pada ucapan anak dan perlu ditinjau oleh guru.

05 / Lanjutkan produksi

Materi dan kode kursus

Proyek ini masih dalam tahap pengembangan kursus dan belum dirilis ke publik. Langkah selanjutnya adalah menguji penentuan posisi, kesalahan sentuhan, dan penetapan peran selama permainan silang dengan tes orang nyata satu tangan dan dua tangan, lalu memutuskan bagaimana menerapkan versi empat tangan dan sepuluh tangan berdasarkan hasilnya.