អំពីការចុះបញ្ជីនេះ
មុខងាររបស់វា
មុខងារនេះតភ្ជាប់ប្រព័ន្ធនានាដែលលោកអ្នកកំពុងដំណើរការ ដូចជាពីមូលដ្ឋានទិន្នន័យទៅកាន់ឃ្លាំងផ្ទុកទិន្នន័យ (warehouse), ពី CRM ទៅកាន់ឧបករណ៍បង្កើតរបាយការណ៍, ពី API ទៅកាន់សៀវភៅបញ្ជី ឬប្រព័ន្ធទាំងនេះមួយចំនួនបញ្ចូលគ្នា។ ការផ្ទេរជួរដេកកំឡុងពេលប្រតិបត្តិការទូទៅគឺមានភាពសាមញ្ញ។ ប៉ុន្តែការសាកល្បងពិតប្រាកដគឺកើតឡើងនៅថ្ងៃទីសែសិប នៅពេលដែលថូខឹនផ្ទៀងផ្ទាត់ភាពត្រឹមត្រូវផុតកំណត់នៅម៉ោង ២ ទៀបភ្លឺ តារាងប្រភពទទួលបានប្រឡោះទិន្នន័យ nullable ថ្មីមួយ ឬការផ្ទេរជាកញ្ចប់ត្រូវបានរំខាននៅពាក់កណ្តាលទី។
របៀបដែលវាត្រូវបានបង្កើតឡើង
ការទាញយកទិន្នន័យ ការផ្ទុក និងការបម្លែង ត្រូវបានរក្សាទុកជាដំណាក់កាលដាច់ដោយឡែកពីគ្នា ពីព្រោះដំណាក់កាលនីមួយៗអាចបរាជ័យដោយសារមូលហេតុផ្សេងៗគ្នា និងទាមទារយន្តការសាកល្បងឡើងវិញរៀងៗខ្លួន។ ការទាញយកទិន្នន័យដំណើរការតាមឃើស័រ (cursor) ឬ watermark ដើម្បីធានាថាការចាប់ផ្តើមឡើងវិញនឹងបន្តពីកន្លែងដែលបានផ្អាក ជាជាងការចម្លងទិន្នន័យត្រួតគ្នា។ ការផ្ទុកទិន្នន័យប្រព្រឹត្តទៅក្នុងប្រតិបត្តិការ (transaction) សម្រាប់រាល់កញ្ចប់នីមួយៗ ដែលមានន័យថាការរំខានណាមួយនឹងបន្សល់ទុកគោលដៅក្នុងស្ថានភាពស្របគ្នា មិនមែនធ្វើបច្ចុប្បន្នភាពមិនពេញលេញនោះទេ។ វិធាននៃការបម្លែងទិន្នន័យស្ថិតនៅក្នុង SQL ឬ Python ដែលមានការគ្រប់គ្រងកំណែ ចៀសវាងការប្រើឧបករណ៍បង្កើតបែបមើលឃើញ (visual builder) ដែលពិបាកអាននៅពេលក្រោយ។
រាល់ការដំណើរការនីមួយៗបង្កើតចេញនូវកំណត់ហេតុបញ្ជាក់ (manifest) ដែលរៀបរាប់លម្អិតអំពីចំនួនជួរដេកដែលបានអាន ជួរដេកដែលបានសរសេរ ជួរដេកដែលត្រូវបានបដិសេធ និងមូលហេតុនៃការបដិសេធនីមួយៗ។ កូនសោធម្មជាតិ (natural key) ផ្គួបជាមួយ hash ធានាថាកិច្ចដំណើរការនេះមានលក្ខណៈ idempotent ដែលមានន័យថាការដំណើរការការងារចាស់ឡើងវិញមិនបង្កឱ្យមានការខូចខាតឡើយ។ ការកែប្រែលើទម្រង់គ្រោងប្រភព (source schemas) ត្រូវបានរកឃើញមុនពេលវាធ្វើឱ្យខូចខាតដល់ការផ្ទុកទិន្នន័យ ដោយបង្កើតការជូនដំណឹងជាជាងការបរាជ័យដោយមិនដឹងខ្លួន។
អ្វីដែលលោកអ្នកទទួលបាន
- កូដ pipeline ដែលបានបញ្ចូលទៅក្នុងឃ្លាំងទិន្នន័យផ្ទាល់ខ្លួនរបស់អ្នក និងបានធ្វើតេស្តលើគំរូនៃទិន្នន័យជាក់ស្តែងរបស់អ្នក។
- យន្តការកំណត់កាលវិភាគដែលស័ក្តិសមនឹងបច្ចេកវិទ្យារបស់អ្នក — cron, systemd timer, Airflow ឬ Prefect។
- ការត្រួតពិនិត្យ និងការជូនដំណឹងដែលគ្របដណ្តប់លើចំនួនជួរដេក ភាពបរាជ័យ និងគម្លាតនៃភាពយឺតយ៉ាវ។
- សៀវភៅណែនាំប្រតិបត្តិការដែលពន្យល់ពីការដំណើរការឡើងវិញ ការបំពេញទិន្នន័យឡើងវិញ និងរបៀបដាក់បញ្ចូលប្រភពទិន្នន័យថ្មី។
អ្វីដែលយើងត្រូវការពីអ្នក
សិទ្ធិចូលមើលប្រព័ន្ធប្រភព និងប្រព័ន្ធគោលដៅ គំរូទិន្នន័យដែលអាចដំណើរការបាន និងកាលវិភាគជាក់ស្តែងដែលអាជីវកម្មរបស់អ្នកត្រូវការជាជាងកាលវិភាគដែលកំណត់តាមការចង់បានខ្ពស់ពេក។
ពេលវេលា និងបច្ចុប្បន្នភាព
កំណែដំណើរការដំបូងជាធម្មតារួចរាល់ក្នុងរយៈពេលប្រាំថ្ងៃ ដែលរួមមានការដំណើរការសាកល្បងសម្រាប់ការពិនិត្យឡើងវិញរបស់អ្នក មុនពេលដាក់ឱ្យដំណើរការជាផ្លូវការ។ បច្ចុប្បន្នភាពត្រូវបានផ្តល់ជូនជាកំណត់ត្រាសរសេរសង្ខេបនៅរាល់ដំណាក់កាលនីមួយៗជាជាងការប្រជុំ ហើយជម្រើសដែលប៉ះពាល់ដល់ទិន្នន័យរបស់អ្នក ដូចជាការរក្សាទុកទិន្នន័យ រយៈពេលបំពេញទិន្នន័យឡើងវិញ និងការចាត់ចែងជួរដេកដែលត្រូវបានបដិសេធ ត្រូវបានកត់ត្រាទុកសម្រាប់ជាឯកសារយោងនៅពេលអនាគត។ ប្រសិនបើមិនអាចសម្រេចបាននូវភាពជឿជាក់ក្នុងរយៈពេលដែលបានអនុញ្ញាតទេនោះ អ្នកនឹងត្រូវបានជូនដំណឹងឱ្យបានឆាប់រហ័សដើម្បីកែប្រែផែនការ ជាជាងការប្រឈមមុខនឹងបញ្ហានៅពេលដាក់ឱ្យដំណើរការ។
ការស្ថាបនានេះត្រូវបានផ្តល់ជូនជាកញ្ចប់តម្លៃថេរតែមួយ ដែលបញ្ចប់ក្នុងដំណើរការតែមួយជាមួយនឹងការកែសម្រួលមួយលើក ក្នុងរយៈពេល ១៤ ថ្ងៃ។ អ្នកនឹងត្រូវផ្តល់ជូននូវដែនដែលការបញ្ជាទិញត្រូវអនុវត្ត និងសេចក្តីសង្ខេបតម្រូវការរបស់អ្នក។