for systems with a broken select use u_sleep() to ensure the write
[rsync/rsync.git] / flist.c
1 /* 
2    Copyright (C) Andrew Tridgell 1996
3    Copyright (C) Paul Mackerras 1996
4    
5    This program is free software; you can redistribute it and/or modify
6    it under the terms of the GNU General Public License as published by
7    the Free Software Foundation; either version 2 of the License, or
8    (at your option) any later version.
9    
10    This program is distributed in the hope that it will be useful,
11    but WITHOUT ANY WARRANTY; without even the implied warranty of
12    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13    GNU General Public License for more details.
14    
15    You should have received a copy of the GNU General Public License
16    along with this program; if not, write to the Free Software
17    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
18 */
19
20 /* generate and receive file lists */
21
22 #include "rsync.h"
23
24 extern int csum_length;
25
26 extern int verbose;
27 extern int am_server;
28 extern int always_checksum;
29 extern off_t total_size;
30
31 extern int cvs_exclude;
32
33 extern int recurse;
34
35 extern int one_file_system;
36 extern int make_backups;
37 extern int preserve_links;
38 extern int preserve_hard_links;
39 extern int preserve_perms;
40 extern int preserve_devices;
41 extern int preserve_uid;
42 extern int preserve_gid;
43 extern int preserve_times;
44 extern int relative_paths;
45 extern int copy_links;
46 extern int remote_version;
47
48 static char **local_exclude_list = NULL;
49
50 int link_stat(const char *Path, struct stat *Buffer) 
51 {
52 #if SUPPORT_LINKS
53     if (copy_links) {
54         return stat(Path, Buffer);
55     } else {
56         return lstat(Path, Buffer);
57     }
58 #else
59     return stat(Path, Buffer);
60 #endif
61 }
62
63 /*
64   This function is used to check if a file should be included/excluded
65   from the list of files based on its name and type etc
66  */
67 static int match_file_name(char *fname,struct stat *st)
68 {
69   if (check_exclude(fname,local_exclude_list)) {
70     if (verbose > 2)
71       fprintf(FERROR,"excluding file %s\n",fname);
72     return 0;
73   }
74   return 1;
75 }
76
77 /* used by the one_file_system code */
78 static dev_t filesystem_dev;
79
80 static void set_filesystem(char *fname)
81 {
82   struct stat st;
83   if (link_stat(fname,&st) != 0) return;
84   filesystem_dev = st.st_dev;
85 }
86
87
88 static void send_directory(int f,struct file_list *flist,char *dir);
89
90 static char *flist_dir = NULL;
91
92 static void clean_fname(char *name)
93 {
94   char *p;
95   int l;
96   int modified = 1;
97
98   if (!name) return;
99
100   while (modified) {
101     modified = 0;
102
103     if ((p=strstr(name,"/./"))) {
104       modified = 1;
105       while (*p) {
106         p[0] = p[2];
107         p++;
108       }
109     }
110
111     if ((p=strstr(name,"//"))) {
112       modified = 1;
113       while (*p) {
114         p[0] = p[1];
115         p++;
116       }
117     }
118
119     if (strncmp(p=name,"./",2) == 0) {      
120       modified = 1;
121       do {
122         p[0] = p[2];
123       } while (*p++);
124     }
125
126     l = strlen(p=name);
127     if (l > 1 && p[l-1] == '/') {
128       modified = 1;
129       p[l-1] = 0;
130     }
131   }
132 }
133
134
135
136 void send_file_entry(struct file_struct *file,int f)
137 {
138   unsigned char flags;
139   static time_t last_time=0;
140   static mode_t last_mode=0;
141   static dev_t last_rdev=0;
142   static uid_t last_uid=0;
143   static gid_t last_gid=0;
144   static char lastname[MAXPATHLEN]="";
145   char *fname;
146   int l1,l2;
147
148   if (f == -1) return;
149
150   if (!file) {
151     write_byte(f,0);
152     return;
153   }
154
155   fname = f_name(file);
156
157   flags = FILE_VALID;
158
159   if (file->mode == last_mode) flags |= SAME_MODE;
160   if (file->rdev == last_rdev) flags |= SAME_RDEV;
161   if (file->uid == last_uid) flags |= SAME_UID;
162   if (file->gid == last_gid) flags |= SAME_GID;
163   if (file->modtime == last_time) flags |= SAME_TIME;
164
165   for (l1=0;lastname[l1] && fname[l1] == lastname[l1];l1++) ;
166   l2 = strlen(fname) - l1;
167
168   if (l1 > 0) flags |= SAME_NAME;
169   if (l2 > 255) flags |= LONG_NAME;
170
171   write_byte(f,flags);  
172   if (flags & SAME_NAME)
173     write_byte(f,l1);
174   if (flags & LONG_NAME)
175     write_int(f,l2);
176   else
177     write_byte(f,l2);
178   write_buf(f,fname+l1,l2);
179
180   write_int(f,(int)file->length);
181   if (!(flags & SAME_TIME))
182     write_int(f,(int)file->modtime);
183   if (!(flags & SAME_MODE))
184     write_int(f,(int)file->mode);
185   if (preserve_uid && !(flags & SAME_UID)) {
186           add_uid(file->uid);
187           write_int(f,(int)file->uid);
188   }
189   if (preserve_gid && !(flags & SAME_GID)) {
190           add_gid(file->gid);
191           write_int(f,(int)file->gid);
192   }
193   if (preserve_devices && IS_DEVICE(file->mode) && !(flags & SAME_RDEV))
194     write_int(f,(int)file->rdev);
195
196 #if SUPPORT_LINKS
197   if (preserve_links && S_ISLNK(file->mode)) {
198     write_int(f,strlen(file->link));
199     write_buf(f,file->link,strlen(file->link));
200   }
201 #endif
202
203 #if SUPPORT_HARD_LINKS
204   if (preserve_hard_links && S_ISREG(file->mode)) {
205     write_int(f,file->dev);
206     write_int(f,file->inode);
207   }
208 #endif
209
210   if (always_checksum) {
211     write_buf(f,file->sum,csum_length);
212   }       
213
214   last_mode = file->mode;
215   last_rdev = file->rdev;
216   last_uid = file->uid;
217   last_gid = file->gid;
218   last_time = file->modtime;
219
220   strncpy(lastname,fname,MAXPATHLEN-1);
221   lastname[MAXPATHLEN-1] = 0;
222 }
223
224
225
226 void receive_file_entry(struct file_struct **fptr,
227                         unsigned char flags,int f)
228 {
229   static time_t last_time=0;
230   static mode_t last_mode=0;
231   static dev_t last_rdev=0;
232   static uid_t last_uid=0;
233   static gid_t last_gid=0;
234   static char lastname[MAXPATHLEN];
235   char thisname[MAXPATHLEN];
236   int l1=0,l2=0;
237   char *p;
238   struct file_struct *file;
239
240   if (flags & SAME_NAME)
241     l1 = read_byte(f);
242   
243   if (flags & LONG_NAME)
244     l2 = read_int(f);
245   else
246     l2 = read_byte(f);
247
248   file = (struct file_struct *)malloc(sizeof(*file));
249   if (!file) out_of_memory("receive_file_entry");
250   bzero((char *)file,sizeof(*file));
251   (*fptr) = file;
252
253   strncpy(thisname,lastname,l1);
254   read_buf(f,&thisname[l1],l2);
255   thisname[l1+l2] = 0;
256
257   strncpy(lastname,thisname,MAXPATHLEN-1);
258   lastname[MAXPATHLEN-1] = 0;
259
260   clean_fname(thisname);
261
262   if ((p = strrchr(thisname,'/'))) {
263           static char *lastdir;
264           *p = 0;
265           if (lastdir && strcmp(thisname, lastdir)==0) {
266                   file->dirname = lastdir;
267           } else {
268                   file->dirname = strdup(thisname);
269                   lastdir = file->dirname;
270           }
271           file->basename = strdup(p+1);
272   } else {
273           file->dirname = NULL;
274           file->basename = strdup(thisname);
275   }
276
277   if (!file->basename) out_of_memory("receive_file_entry 1");
278
279
280   file->length = (off_t)read_int(f);
281   file->modtime = (flags & SAME_TIME) ? last_time : (time_t)read_int(f);
282   file->mode = (flags & SAME_MODE) ? last_mode : (mode_t)read_int(f);
283   if (preserve_uid)
284     file->uid = (flags & SAME_UID) ? last_uid : (uid_t)read_int(f);
285   if (preserve_gid)
286     file->gid = (flags & SAME_GID) ? last_gid : (gid_t)read_int(f);
287   if (preserve_devices && IS_DEVICE(file->mode))
288     file->rdev = (flags & SAME_RDEV) ? last_rdev : (dev_t)read_int(f);
289
290   if (preserve_links && S_ISLNK(file->mode)) {
291     int l = read_int(f);
292     file->link = (char *)malloc(l+1);
293     if (!file->link) out_of_memory("receive_file_entry 2");
294     read_buf(f,file->link,l);
295     file->link[l] = 0;
296   }
297
298 #if SUPPORT_HARD_LINKS
299   if (preserve_hard_links && S_ISREG(file->mode)) {
300     file->dev = read_int(f);
301     file->inode = read_int(f);
302   }
303 #endif
304   
305   if (always_checksum)
306     read_buf(f,file->sum,csum_length);
307   
308   last_mode = file->mode;
309   last_rdev = file->rdev;
310   last_uid = file->uid;
311   last_gid = file->gid;
312   last_time = file->modtime;
313 }
314
315
316
317 static struct file_struct *make_file(char *fname)
318 {
319         struct file_struct *file;
320         struct stat st;
321         char sum[SUM_LENGTH];
322         char *p;
323         char cleaned_name[MAXPATHLEN];
324
325         strncpy(cleaned_name, fname, MAXPATHLEN-1);
326         cleaned_name[MAXPATHLEN-1] = 0;
327         clean_fname(cleaned_name);
328         fname = cleaned_name;
329
330         bzero(sum,SUM_LENGTH);
331
332         if (link_stat(fname,&st) != 0) {
333                 fprintf(FERROR,"%s: %s\n",
334                         fname,strerror(errno));
335                 return NULL;
336         }
337
338         if (S_ISDIR(st.st_mode) && !recurse) {
339                 fprintf(FERROR,"skipping directory %s\n",fname);
340                 return NULL;
341         }
342         
343         if (one_file_system && st.st_dev != filesystem_dev)
344                 return NULL;
345         
346         if (!match_file_name(fname,&st))
347                 return NULL;
348         
349         if (verbose > 2)
350                 fprintf(FERROR,"make_file(%s)\n",fname);
351         
352         file = (struct file_struct *)malloc(sizeof(*file));
353         if (!file) out_of_memory("make_file");
354         bzero((char *)file,sizeof(*file));
355
356         if ((p = strrchr(fname,'/'))) {
357                 static char *lastdir;
358                 *p = 0;
359                 if (lastdir && strcmp(fname, lastdir)==0) {
360                         file->dirname = lastdir;
361                 } else {
362                         file->dirname = strdup(fname);
363                         lastdir = file->dirname;
364                 }
365                 file->basename = strdup(p+1);
366                 *p = '/';
367         } else {
368                 file->dirname = NULL;
369                 file->basename = strdup(fname);
370         }
371
372         file->modtime = st.st_mtime;
373         file->length = st.st_size;
374         file->mode = st.st_mode;
375         file->uid = st.st_uid;
376         file->gid = st.st_gid;
377         file->dev = st.st_dev;
378         file->inode = st.st_ino;
379 #ifdef HAVE_ST_RDEV
380         file->rdev = st.st_rdev;
381 #endif
382
383 #if SUPPORT_LINKS
384         if (S_ISLNK(st.st_mode)) {
385                 int l;
386                 char lnk[MAXPATHLEN];
387                 if ((l=readlink(fname,lnk,MAXPATHLEN-1)) == -1) {
388                         fprintf(FERROR,"readlink %s : %s\n",
389                                 fname,strerror(errno));
390                         return NULL;
391                 }
392                 lnk[l] = 0;
393                 file->link = strdup(lnk);
394         }
395 #endif
396
397         if (always_checksum && S_ISREG(st.st_mode)) {
398                 file_checksum(fname,file->sum,st.st_size);
399         }       
400
401         if (flist_dir) {
402                 static char *lastdir;
403                 if (lastdir && strcmp(lastdir, flist_dir)==0) {
404                         file->basedir = lastdir;
405                 } else {
406                         file->basedir = strdup(flist_dir);
407                         lastdir = file->basedir;
408                 }
409         } else {
410                 file->basedir = NULL;
411         }
412
413         if (!S_ISDIR(st.st_mode))
414                 total_size += st.st_size;
415
416         return file;
417 }
418
419
420
421 static void send_file_name(int f,struct file_list *flist,char *fname)
422 {
423   struct file_struct *file;
424
425   file = make_file(fname);
426
427   if (!file) return;  
428   
429   if (flist->count >= flist->malloced) {
430           if (flist->malloced < 1000)
431                   flist->malloced += 1000;
432           else
433                   flist->malloced *= 2;
434           flist->files = (struct file_struct **)realloc(flist->files,
435                                                         sizeof(flist->files[0])*
436                                                         flist->malloced);
437           if (!flist->files)
438                   out_of_memory("send_file_name");
439   }
440
441   if (strcmp(file->basename,"")) {
442     flist->files[flist->count++] = file;
443     send_file_entry(file,f);
444   }
445
446   if (S_ISDIR(file->mode) && recurse) {
447     char **last_exclude_list = local_exclude_list;
448     send_directory(f,flist,f_name(file));
449     local_exclude_list = last_exclude_list;
450     return;
451   }
452 }
453
454
455
456 static void send_directory(int f,struct file_list *flist,char *dir)
457 {
458         DIR *d;
459         struct dirent *di;
460         char fname[MAXPATHLEN];
461         int l;
462         char *p;
463
464         d = opendir(dir);
465         if (!d) {
466                 fprintf(FERROR,"%s: %s\n",
467                         dir,strerror(errno));
468                 return;
469         }
470
471         strncpy(fname,dir,MAXPATHLEN-1);
472         fname[MAXPATHLEN-1]=0;
473         l = strlen(fname);
474         if (fname[l-1] != '/') {
475                 if (l == MAXPATHLEN-1) {
476                         fprintf(FERROR,"skipping long-named directory %s\n",fname);
477                         closedir(d);
478                         return;
479                 }
480                 strcat(fname,"/");
481                 l++;
482         }
483         p = fname + strlen(fname);
484
485         if (cvs_exclude) {
486                 if (strlen(fname) + strlen(".cvsignore") <= MAXPATHLEN-1) {
487                         strcpy(p,".cvsignore");
488                         local_exclude_list = make_exclude_list(fname,NULL,0);
489                 } else {
490                         fprintf(FERROR,"cannot cvs-exclude in long-named directory %s\n",fname);
491                 }
492         }  
493         
494         for (di=readdir(d); di; di=readdir(d)) {
495                 if (strcmp(di->d_name,".")==0 ||
496                     strcmp(di->d_name,"..")==0)
497                         continue;
498                 strncpy(p,di->d_name,MAXPATHLEN-(l+1));
499                 send_file_name(f,flist,fname);
500         }
501
502         closedir(d);
503 }
504
505
506
507 struct file_list *send_file_list(int f,int argc,char *argv[])
508 {
509   int i,l;
510   struct stat st;
511   char *p,*dir;
512   char dbuf[MAXPATHLEN];
513   struct file_list *flist;
514
515   if (verbose && recurse && !am_server && f != -1) {
516     fprintf(FINFO,"building file list ... ");
517     fflush(FINFO);
518   }
519
520   flist = (struct file_list *)malloc(sizeof(flist[0]));
521   if (!flist) out_of_memory("send_file_list");
522
523   flist->count=0;
524   flist->malloced = 1000;
525   flist->files = (struct file_struct **)malloc(sizeof(flist->files[0])*
526                                                flist->malloced);
527   if (!flist->files) out_of_memory("send_file_list");
528
529   for (i=0;i<argc;i++) {
530     char fname2[MAXPATHLEN];
531     char *fname = fname2;
532
533     strncpy(fname,argv[i],MAXPATHLEN-1);
534     fname[MAXPATHLEN-1] = 0;
535
536     l = strlen(fname);
537     if (l != 1 && fname[l-1] == '/') {
538       strcat(fname,".");
539     }
540
541     if (link_stat(fname,&st) != 0) {
542       fprintf(FERROR,"%s : %s\n",fname,strerror(errno));
543       continue;
544     }
545
546     if (S_ISDIR(st.st_mode) && !recurse) {
547       fprintf(FERROR,"skipping directory %s\n",fname);
548       continue;
549     }
550
551     dir = NULL;
552
553     if (!relative_paths) {
554             p = strrchr(fname,'/');
555             if (p) {
556                     *p = 0;
557                     if (p == fname) 
558                             dir = "/";
559                     else
560                             dir = fname;      
561                     fname = p+1;      
562             }
563     }
564
565     if (!*fname)
566       fname = ".";
567
568     if (dir && *dir) {
569       if (getcwd(dbuf,MAXPATHLEN-1) == NULL) {
570         fprintf(FERROR,"getwd : %s\n",strerror(errno));
571         exit_cleanup(1);
572       }
573       if (chdir(dir) != 0) {
574         fprintf(FERROR,"chdir %s : %s\n",dir,strerror(errno));
575         continue;
576       }
577       flist_dir = dir;
578       if (one_file_system)
579         set_filesystem(fname);
580       send_file_name(f,flist,fname);
581       flist_dir = NULL;
582       if (chdir(dbuf) != 0) {
583         fprintf(FERROR,"chdir %s : %s\n",dbuf,strerror(errno));
584         exit_cleanup(1);
585       }
586       continue;
587     }
588
589     if (one_file_system)
590       set_filesystem(fname);
591     send_file_name(f,flist,fname);
592   }
593
594   if (f != -1) {
595     send_file_entry(NULL,f);
596     write_flush(f);
597   }
598
599   if (verbose && recurse && !am_server && f != -1)
600     fprintf(FINFO,"done\n");
601
602   clean_flist(flist);
603
604   /* now send the uid/gid list. This was introduced in protocol version 15 */
605   if (f != -1 && remote_version >= 15) {
606           send_uid_list(f);
607   }
608
609   return flist;
610 }
611
612
613 struct file_list *recv_file_list(int f)
614 {
615   struct file_list *flist;
616   unsigned char flags;
617
618   if (verbose && recurse && !am_server) {
619     fprintf(FINFO,"receiving file list ... ");
620     fflush(FINFO);
621   }
622
623   flist = (struct file_list *)malloc(sizeof(flist[0]));
624   if (!flist)
625     goto oom;
626
627   flist->count=0;
628   flist->malloced=1000;
629   flist->files = (struct file_struct **)malloc(sizeof(flist->files[0])*
630                                                flist->malloced);
631   if (!flist->files)
632     goto oom;
633
634
635   for (flags=read_byte(f); flags; flags=read_byte(f)) {
636     int i = flist->count;
637
638     if (i >= flist->malloced) {
639           if (flist->malloced < 1000)
640                   flist->malloced += 1000;
641           else
642                   flist->malloced *= 2;
643           flist->files =(struct file_struct **)realloc(flist->files,
644                                                        sizeof(flist->files[0])*
645                                                        flist->malloced);
646           if (!flist->files)
647                   goto oom;
648     }
649
650     receive_file_entry(&flist->files[i],flags,f);
651
652     if (S_ISREG(flist->files[i]->mode))
653       total_size += flist->files[i]->length;
654
655     flist->count++;
656
657     if (verbose > 2)
658       fprintf(FERROR,"recv_file_name(%s)\n",f_name(flist->files[i]));
659   }
660
661
662   if (verbose > 2)
663     fprintf(FERROR,"received %d names\n",flist->count);
664
665   clean_flist(flist);
666
667   if (verbose && recurse && !am_server) {
668     fprintf(FINFO,"done\n");
669   }
670
671   /* now recv the uid/gid list. This was introduced in protocol version 15 */
672   if (f != -1 && remote_version >= 15) {
673           recv_uid_list(f, flist);
674   }
675
676   return flist;
677
678 oom:
679     out_of_memory("recv_file_list");
680     return NULL; /* not reached */
681 }
682
683
684 int file_compare(struct file_struct **f1,struct file_struct **f2)
685 {
686         if (!(*f1)->basename && !(*f2)->basename) return 0;
687         if (!(*f1)->basename) return -1;
688         if (!(*f2)->basename) return 1;
689         if ((*f1)->dirname == (*f2)->dirname)
690                 return strcmp((*f1)->basename, (*f2)->basename);
691         return strcmp(f_name(*f1),f_name(*f2));
692 }
693
694
695 int flist_find(struct file_list *flist,struct file_struct *f)
696 {
697         int low=0,high=flist->count-1;
698
699         if (flist->count <= 0) return -1;
700
701         while (low != high) {
702                 int mid = (low+high)/2;
703                 int ret = file_compare(&flist->files[flist_up(flist, mid)],&f);
704                 if (ret == 0) return flist_up(flist, mid);
705                 if (ret > 0) {
706                         high=mid;
707                 } else {
708                         low=mid+1;
709                 }
710         }
711
712         if (file_compare(&flist->files[flist_up(flist,low)],&f) == 0)
713                 return flist_up(flist,low);
714         return -1;
715 }
716
717
718 /*
719  * free up one file
720  */
721 static void free_file(struct file_struct *file)
722 {
723         if (!file) return;
724         if (file->basename) free(file->basename);
725         if (file->link) free(file->link);
726         bzero((char *)file, sizeof(*file));
727         free(file);
728 }
729
730
731 /*
732  * free up all elements in a flist
733  */
734 void flist_free(struct file_list *flist)
735 {
736         int i;
737         for (i=1;i<flist->count;i++) {
738                 free_file(flist->files[i]);
739         }       
740         bzero((char *)flist->files, sizeof(flist->files[0])*flist->count);
741         free(flist->files);
742         bzero((char *)flist, sizeof(*flist));
743         free(flist);
744 }
745
746
747 /*
748  * This routine ensures we don't have any duplicate names in our file list.
749  * duplicate names can cause corruption because of the pipelining 
750  */
751 void clean_flist(struct file_list *flist)
752 {
753         int i;
754
755         if (!flist || flist->count == 0) 
756                 return;
757   
758         qsort(flist->files,flist->count,
759               sizeof(flist->files[0]),
760               (int (*)())file_compare);
761
762         for (i=1;i<flist->count;i++) {
763                 if (flist->files[i]->basename &&
764                     strcmp(f_name(flist->files[i]),
765                            f_name(flist->files[i-1])) == 0) {
766                         if (verbose > 1 && !am_server)
767                                 fprintf(FERROR,"removing duplicate name %s from file list %d\n",
768                                         f_name(flist->files[i-1]),i-1);
769                         free_file(flist->files[i]);
770                         flist->files[i] = NULL;
771                 } 
772         }
773 }
774
775
776 /*
777  * return the full filename of a flist entry
778  */
779 char *f_name(struct file_struct *f)
780 {
781         static char names[10][MAXPATHLEN];
782         static int n;
783         char *p = names[n];
784
785         if (!f) return NULL;
786
787         n = (n+1)%10;
788
789         if (f->dirname) {
790                 sprintf(p, "%s/%s", f->dirname, f->basename);
791         } else {
792                 strcpy(p, f->basename);
793         }
794
795         return p;
796 }
797