Ano ang DistCp sa Hadoop?
Ano ang DistCp sa Hadoop?

Video: Ano ang DistCp sa Hadoop?

Video: Ano ang DistCp sa Hadoop?
Video: What is HDFS | Name Node vs Data Node | Replication factor | Rack Awareness | Hadoop🐘🐘Framework 2024, Nobyembre
Anonim

DistCp (ipinamamahaging kopya) ay isang tool na ginagamit para sa malaking inter/intra-cluster na pagkopya. Ito ay gumagamit ng MapReduce upang maipatupad ang pamamahagi nito, paghawak at pagbawi ng error, at pag-uulat. Pinapalawak nito ang isang listahan ng mga file at direktoryo sa input para sa mga gawain sa mapa, na ang bawat isa ay kokopya ng partition ng mga file na tinukoy sa listahan ng pinagmulan.

Katulad nito, maaaring itanong ng isa, na-overwrite ba ang Distcp?

Dapat ko ring ipaliwanag ang ilan at ipaliwanag iyon distcp - overwrite kalooban overwrite ang file kahit na tumutugma man ang laki o hindi. Ia-update nito ang lahat ng file sa hdfs-nn2 na hindi tumutugma sa laki mula sa hdfs-nn1, pati na rin magtanggal ng anumang mga extraneous na file.

Katulad nito, ano ang utos ng Hadoop FS? Ang File System ( FS ) shell ay may kasamang iba't ibang shell-like mga utos na direktang nakikipag-ugnayan sa Hadoop Distributed File System ( HDFS ) pati na rin ang iba pang mga file system na Hadoop mga suporta, tulad ng Lokal FS , HFTP FS , S3 FS , at iba pa.

Sa ganitong paraan, paano ako maglilipat ng data mula sa isang Hdfs patungo sa isa pang Hdfs?

Hadoop fs cp – Pinakamadali paraan upang kopyahin ang data mula sa isa pinagmulang direktoryo sa isa pa . Gamitin ang hadoop fs -cp [pinagmulan] [destinasyon]. Hadoop fs copyFromLocal – Kailangan kopyahin ang data mula sa lokal na file system papunta sa HDFS ? Gamitin ang hadoop fs -copyFromLocal [pinagmulan] [destinasyon].

Paano ko kokopyahin ang isang kumpol mula sa isang kumpol patungo sa isa pa?

Pagkopya ng mga file sa pagitan mga kumpol . Kaya mo kopyahin ang mga file o mga direktoryo sa pagitan ng magkaibang mga kumpol sa pamamagitan ng paggamit ng hadoop distcp command. Dapat kang magsama ng mga kredensyal file sa iyong kopya request kaya ang source kumpol maaaring patunayan na ikaw ay napatotohanan sa pinagmulan kumpol at ang target kumpol.

Inirerekumendang: