file-fetcher.pl

   1 #!/usr/bin/perl -w
   2 #
   3
   4 $spool_dir = "./spool";
   5 $ftp_dir = "./ftp";
   6 $email_cc = "";
   7
   8
   9 @md5 = ();
  10 %url = ();
  11 $problems = "";
  12 $normal_out = "";
  13 $requester = "";
  14 $file = "";
  15 $fetched_count = 0;
  16 $force_reply = 0;
  17
  18 # try lookup some file in spool, exit if it cannot be done
  19 sub find_file_in_spool()
  20 {
  21   opendir(DIR, $spool_dir) || die "can't opendir $spool_dir: $!";
  22   while (1) {
  23     my $f = readdir(DIR);
  24     defined $f or last;
  25     -f "$spool_dir/$f" or next;
  26     $file = "$spool_dir/$f";
  27     last;
  28   }
  29   closedir(DIR);
  30
  31   exit 0 if ($file eq "");
  32 }
  33
  34 # read file from spool, and try unlink it. if cannot unlink -- exit
  35 # sets $requester (email), $problems, @md5 (arrays of md5's)
  36 # and %url (map from md5 to urls)
  37 sub read_spool_file()
  38 {
  39   open(F, "< $file") || exit 0;
  40   $requester = <F>;
  41   chomp $requester;
  42   $requester =~ /^[a-zA-Z_\-0-9\@\.]+$/
  43         or die "$file: evil requester: $requester";
  44   my $flags = <F>;
  45   $force_reply++ if ($flags =~ /force-reply/);
  46
  47   while (<F>) {
  48     if (/^ERROR/) {
  49       s/^ERROR: //;
  50       $problems .= $_;
  51     }
  52     /^([a-f0-9]{32})\s+((ftp|http):\/\/([a-z0-9A-Z:\+\~\.\-\/_]|\%[0-9])+)\s*$/
  53         or die "$file: corrupted";
  54     push @md5, $1;
  55     $url{$1} = $2;
  56     /\/$/ and die "$file: cannot fetch dir";
  57   }
  58   close(F);
  59
  60   unlink($file) || exit 0;
  61 }
  62
  63 sub file_path($$)
  64 {
  65   my ($md5, $url) = @_;
  66
  67   $md5 =~ /^(.)(.)/;
  68   my $md5_dir = "$ftp_dir/by-md5/$1/$2/$md5";
  69   $url =~ /\/([^\/]+)$/ or die;
  70   my $basename = $1;
  71   return "$md5_dir/$basename";
  72 }
  73
  74 sub install_dir
  75 {
  76   my $dir = shift;
  77   return if (-e $dir);
  78   $dir =~ /(.*)\/[^\/]+$/ and install_dir($1);
  79   mkdir($dir);
  80 }
  81
  82 sub move_file($$)
  83 {
  84   my ($md5, $url) = @_;
  85
  86   my $path = file_path($md5, $url);
  87
  88   $path =~ /(.*)\/[^\/]+$/ and install_dir($1);
  89
  90   if (system("mv -f \"tmp/$md5\" \"$path\"")) {
  91     $problems .= "FATAL: cannot mv file ($url)\n";
  92   } else {
  93     if (open(D, "> $path.desc")) {
  94       print D "URL: $url\n";
  95       print D "MD5: $md5\n";
  96       print D 'Fetched-by: $Id$\n';
  97       close(D);
  98     } else {
  99       $problems .= "ERROR: cannot write $path.desc\n";
 100     }
 101     $normal_out .= "STORED: $url ($md5, " .  (-s $path) . " bytes)\n";
 102     $fetched_count++;
 103   }
 104 }
 105
 106 sub fetch_file($$)
 107 {
 108   my ($md5, $url) = @_;
 109   my $out = "";
 110   my $cmd = "wget -nv -O tmp/$md5 \"$url\"";
 111
 112   my $path = file_path($md5, $url);
 113   if (-f $path) {
 114     $normal_out .= "ALREADY GOT: $url ($md5, " .  (-s $path) . " bytes)\n";
 115     return;
 116   }
 117
 118   open(W, "$cmd 2>&1 |");
 119   while (<W>) {
 120     /URL:.*\s+\-\>\s+.*/ and next;
 121     $out .= $_;
 122   }
 123   close(W);
 124   if ($out ne "") {
 125     $problems .= "$cmd:\n$out\n\n";
 126   }
 127   if (-f "tmp/$md5" && -s "tmp/$md5" > 0) {
 128     my $computed_md5 = `md5sum tmp/$md5`;
 129     $computed_md5 =~ /^([a-f0-9]{32})/ and $computed_md5 = $1;
 130     if ($computed_md5 ne $md5) {
 131       $problems .= "FATAL: $url md5 mismatch, needed $md5, got $computed_md5\n";
 132     } else {
 133       move_file($md5, $url);
 134     }
 135   } else {
 136     $problems .= "FATAL: $url ($md5) was not fetched\n";
 137   }
 138   unlink("tmp/$md5");
 139 }
 140
 141 sub fetch_files()
 142 {
 143   $problems .= "\n\n" if ($problems ne "");
 144   foreach $md5 (@md5) {
 145     fetch_file($md5, $url{$md5});
 146   }
 147 }
 148
 149 sub send_email()
 150 {
 151   open(EMAIL, "| /usr/sbin/sendmail -t");
 152   #open(EMAIL, "| cat");
 153   my $marker = "OK";
 154   if ($problems ne "") {
 155     $marker = "ERRORS";
 156   }
 157   print EMAIL
 158 "From: distfiles <feedback\@pld-linux.org>
 159 To: $requester
 160 Cc: $email_cc
 161 Subject: [distfiles] sources fetched $marker
 162 Message-ID: <$$." . time . "\@distfiles.pld-linux.org>
 163 X-distfiles-program: file-fetcher.pl
 164 X-distfiles-version: " . '$Id$' . "
 165
 166 $problems
 167 Files fetched: $fetched_count
 168
 169 $normal_out
 170
 171 --
 172 Virtually yours: distfiles.
 173 ";
 174   close(EMAIL) or die;
 175 }
 176
 177 find_file_in_spool();
 178 read_spool_file();
 179 fetch_files();
 180 send_email() unless (!$force_reply and $problems eq "" and $fetched_count == 0);