Always use 64-bit ino_t and dev_t internally, so that we can detect
[rsync/rsync.git] / rsync.h
1 /* 
2    Copyright (C) by Andrew Tridgell 1996, 2000
3    Copyright (C) Paul Mackerras 1996
4    Copyright (C) 2001, 2002 by Martin Pool <mbp@samba.org>
5    
6    This program is free software; you can redistribute it and/or modify
7    it under the terms of the GNU General Public License as published by
8    the Free Software Foundation; either version 2 of the License, or
9    (at your option) any later version.
10    
11    This program is distributed in the hope that it will be useful,
12    but WITHOUT ANY WARRANTY; without even the implied warranty of
13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14    GNU General Public License for more details.
15    
16    You should have received a copy of the GNU General Public License
17    along with this program; if not, write to the Free Software
18    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
19 */
20
21
22 #define False 0
23 #define True 1
24
25 #define BLOCK_SIZE 700
26 #define RSYNC_RSH_ENV "RSYNC_RSH"
27
28 #define RSYNC_NAME "rsync"
29 #define RSYNCD_CONF "/etc/rsyncd.conf"
30
31 #define DEFAULT_LOCK_FILE "/var/run/rsyncd.lock"
32 #define URL_PREFIX "rsync://"
33
34 #define BACKUP_SUFFIX "~"
35
36 /* a non-zero CHAR_OFFSET makes the rolling sum stronger, but is
37    incompatible with older versions :-( */
38 #define CHAR_OFFSET 0
39
40
41 #define FLAG_DELETE (1<<0)
42 #define SAME_MODE (1<<1)
43 #define SAME_RDEV (1<<2)
44 #define SAME_UID (1<<3)
45 #define SAME_GID (1<<4)
46 #define SAME_DIR (1<<5)
47 #define SAME_NAME SAME_DIR
48 #define LONG_NAME (1<<6)
49 #define SAME_TIME (1<<7)
50
51 /* update this if you make incompatible changes */
52 #define PROTOCOL_VERSION 26
53
54 /* We refuse to interoperate with versions that are not in this range.
55  * Note that we assume we'll work with later versions: the onus is on
56  * people writing them to make sure that they don't send us anything
57  * we won't understand.
58  *
59  * There are two possible explanations for the limit at thirty: either
60  * to allow new major-rev versions that do not interoperate with us,
61  * and (more likely) so that we can detect an attempt to connect rsync
62  * to a non-rsync server, which is unlikely to begin by sending a byte
63  * between 15 and 30. */
64 #define MIN_PROTOCOL_VERSION 15
65 #define MAX_PROTOCOL_VERSION 30
66
67 #define RSYNC_PORT 873
68
69 #define SPARSE_WRITE_SIZE (1024)
70 #define WRITE_SIZE (32*1024)
71 #define CHUNK_SIZE (32*1024)
72 #define MAX_MAP_SIZE (256*1024)
73 #define IO_BUFFER_SIZE (4092)
74
75 #define MAX_ARGS 1000
76
77 #define MPLEX_BASE 7
78
79 /* Log values.  I *think* what these mean is: FLOG goes to the server
80  * logfile; FERROR and FINFO try to end up on the client, with
81  * different levels of filtering. */
82 enum logcode {FNONE=0, FERROR=1, FINFO=2, FLOG=3 };
83
84 #include "errcode.h"
85
86 #include "config.h"
87
88 #if HAVE_REMSH
89 #define RSYNC_RSH "remsh"
90 #else
91 #define RSYNC_RSH "rsh"
92 #endif
93
94 #include <sys/types.h>
95
96 #ifdef HAVE_UNISTD_H
97 #include <unistd.h>
98 #endif
99 #include <stdio.h>
100 #include <stddef.h>
101
102 #ifdef HAVE_SYS_PARAM_H
103 #include <sys/param.h>
104 #endif
105
106 #ifdef HAVE_STDLIB_H
107 #include <stdlib.h>
108 #endif
109
110 #ifdef HAVE_SYS_SOCKET_H
111 #include <sys/socket.h>
112 #endif
113
114 #ifdef HAVE_STRING_H
115 #include <string.h>
116 #endif
117
118 #ifdef HAVE_MALLOC_H
119 #include <malloc.h>
120 #endif
121
122 #ifdef TIME_WITH_SYS_TIME
123 #include <sys/time.h>
124 #include <time.h>
125 #else
126 #ifdef HAVE_SYS_TIME_H
127 #include <sys/time.h>
128 #else
129 #include <time.h>
130 #endif
131 #endif
132
133 #ifdef HAVE_FCNTL_H
134 #include <fcntl.h>
135 #else
136 #ifdef HAVE_SYS_FCNTL_H
137 #include <sys/fcntl.h>
138 #endif
139 #endif
140
141 #include <sys/stat.h>
142
143 #ifdef HAVE_SYS_IOCTL_H
144 #include <sys/ioctl.h>
145 #endif
146
147 #ifdef HAVE_SYS_FILIO_H
148 #include <sys/filio.h>
149 #endif
150
151 #include <signal.h>
152 #ifdef HAVE_SYS_WAIT_H
153 #include <sys/wait.h>
154 #endif
155 #ifdef HAVE_CTYPE_H
156 #include <ctype.h>
157 #endif
158 #ifdef HAVE_GRP_H
159 #include <grp.h>
160 #endif
161 #include <errno.h>
162
163 #ifdef HAVE_UTIME_H
164 #include <utime.h>
165 #endif
166
167 #ifdef HAVE_SYS_SELECT_H
168 #include <sys/select.h>
169 #endif
170
171 #ifdef HAVE_SYS_MODE_H
172 /* apparently AIX needs this for S_ISLNK */
173 #ifndef S_ISLNK
174 #include <sys/mode.h>
175 #endif
176 #endif
177
178 #ifdef HAVE_FNMATCH
179 #include <fnmatch.h>
180 #else
181 #include "lib/fnmatch.h"
182 #endif
183
184 #ifdef HAVE_GLOB_H
185 #include <glob.h>
186 #endif
187
188 #ifdef HAVE_MALLOC_H
189 #  include <malloc.h>
190 #endif
191
192 /* these are needed for the uid/gid mapping code */
193 #include <pwd.h>
194 #include <grp.h>
195
196 #include <stdarg.h>
197 #include <netinet/in.h>
198 #include <arpa/inet.h>
199 #include <netdb.h>
200 #include <syslog.h>
201 #include <sys/file.h>
202
203 #if HAVE_DIRENT_H
204 # include <dirent.h>
205 #else
206 # define dirent direct
207 # if HAVE_SYS_NDIR_H
208 #  include <sys/ndir.h>
209 # endif
210 # if HAVE_SYS_DIR_H
211 #  include <sys/dir.h>
212 # endif
213 # if HAVE_NDIR_H
214 #  include <ndir.h>
215 # endif
216 #endif
217
218 #ifdef HAVE_COMPAT_H
219 #include <compat.h>
220 #endif
221
222
223 #define BOOL int
224
225 #ifndef uchar
226 #define uchar unsigned char
227 #endif
228
229 #if HAVE_UNSIGNED_CHAR
230 #define schar signed char
231 #else
232 #define schar char
233 #endif
234
235 #ifndef int32
236 #if (SIZEOF_INT == 4)
237 #define int32 int
238 #elif (SIZEOF_LONG == 4)
239 #define int32 long
240 #elif (SIZEOF_SHORT == 4)
241 #define int32 short
242 #else
243 /* I hope this works */
244 #define int32 int
245 #define LARGE_INT32
246 #endif
247 #endif
248
249 #ifndef uint32
250 #define uint32 unsigned int32
251 #endif
252
253 #if HAVE_OFF64_T
254 #define OFF_T off64_t
255 #define STRUCT_STAT struct stat64
256 #else
257 #define OFF_T off_t
258 #define STRUCT_STAT struct stat
259 #endif
260
261 #if HAVE_OFF64_T
262 #define int64 off64_t
263 #elif (SIZEOF_LONG == 8) 
264 #define int64 long
265 #elif (SIZEOF_INT == 8) 
266 #define int64 int
267 #elif HAVE_LONGLONG
268 #define int64 long long
269 #else
270 /* As long as it gets... */
271 #define int64 off_t
272 #define NO_INT64
273 #endif
274
275 /* Starting from protocol version 26, we always use 64-bit
276  * ino_t and dev_t internally, even if this platform does not
277  * allow files to have 64-bit inums.  That's because the
278  * receiver needs to find duplicate (dev,ino) tuples to detect
279  * hardlinks, and it might have files coming from a platform
280  * that has 64-bit inums.
281  *
282  * The only exception is if we're on a platform with no 64-bit type at
283  * all.
284  *
285  * Because we use read_longint() to get these off the wire, if you
286  * transfer devices or hardlinks with dev or inum > 2**32 to a machine
287  * with no 64-bit types then you will get an overflow error.  Probably
288  * not many people have that combination of machines, and you can
289  * avoid it by not preserving hardlinks or not transferring device
290  * nodes.  It's not clear that any other behaviour is better.
291  *
292  * Note that if you transfer devices from a 64-bit-devt machine (say,
293  * Solaris) to a 32-bit-devt machine (say, Linux-2.2/x86) then the
294  * device numbers will be truncated.  But it's a kind of silly thing
295  * to do anyhow.
296  */ 
297 #define INO64_T int64
298 #define DEV64_T int64
299
300 #ifndef MIN
301 #define MIN(a,b) ((a)<(b)?(a):(b))
302 #endif
303
304 #ifndef MAX
305 #define MAX(a,b) ((a)>(b)?(a):(b))
306 #endif
307
308 #ifndef MAXHOSTNAMELEN
309 #define MAXHOSTNAMELEN 256
310 #endif
311
312 /* the length of the md4 checksum */
313 #define MD4_SUM_LENGTH 16
314 #define SUM_LENGTH 16
315
316 #ifndef MAXPATHLEN
317 #define MAXPATHLEN 1024
318 #endif
319
320 #ifndef INADDR_NONE
321 #define INADDR_NONE 0xffffffff
322 #endif
323
324 struct file_struct {
325         unsigned flags;
326         time_t modtime;
327         OFF_T length;
328         mode_t mode;
329
330         INO64_T inode;
331         /** Device this file lives upon */
332         DEV64_T dev;
333
334         /** If this is a device node, the device number. */
335         DEV64_T rdev;
336         uid_t uid;
337         gid_t gid;
338         char *basename;
339         char *dirname;
340         char *basedir;
341         char *link;
342         char *sum;
343 };
344
345
346 #define ARENA_SIZE      (32 * 1024)
347
348 struct string_area {
349         char *base;
350         char *end;
351         char *current;
352         struct string_area *next;
353 };
354
355 struct file_list {
356         int count;
357         int malloced;
358         struct file_struct **files;
359         struct string_area *string_area;
360 };
361
362 struct sum_buf {
363         OFF_T offset;           /* offset in file of this chunk */
364         int len;                /* length of chunk of file */
365         int i;                  /* index of this chunk */
366         uint32 sum1;            /* simple checksum */
367         char sum2[SUM_LENGTH];  /* checksum  */
368 };
369
370 struct sum_struct {
371   OFF_T flength;                /* total file length */
372   int count;                    /* how many chunks */
373   int remainder;                /* flength % block_length */
374   int n;                        /* block_length */
375   struct sum_buf *sums;         /* points to info for each chunk */
376 };
377
378 struct map_struct {
379         char *p;
380         int fd,p_size,p_len;
381         OFF_T file_size, p_offset, p_fd_offset;
382 };
383
384 struct exclude_struct {
385         char *pattern;
386         int regular_exp;
387         int fnmatch_flags;
388         int include;
389         int directory;
390         int local;
391 };
392
393 struct stats {
394         int64 total_size;
395         int64 total_transferred_size;
396         int64 total_written;
397         int64 total_read;
398         int64 literal_data;
399         int64 matched_data;
400         int flist_size;
401         int num_files;
402         int num_transferred_files;
403 };
404
405
406 /* we need this function because of the silly way in which duplicate
407    entries are handled in the file lists - we can't change this
408    without breaking existing versions */
409 static inline int flist_up(struct file_list *flist, int i)
410 {
411         while (!flist->files[i]->basename) i++;
412         return i;
413 }
414
415 #include "byteorder.h"
416 #include "proto.h"
417 #include "lib/mdfour.h"
418 #include "lib/permstring.h"
419 #include "lib/addrinfo.h"
420
421 /* We have replacement versions of these if they're missing. */
422 #ifndef HAVE_ASPRINTF
423 int asprintf(char **ptr, const char *format, ...);
424 #endif
425
426 #ifndef HAVE_VASPRINTF
427 int vasprintf(char **ptr, const char *format, va_list ap);
428 #endif
429
430 #if !defined(HAVE_VSNPRINTF) && !defined(HAVE_C99_VSNPRINTF)
431 int vsnprintf (char *str, size_t count, const char *fmt, va_list args);
432 #endif
433
434 #if !defined(HAVE_SNPRINTF) && !defined(HAVE_C99_VSNPRINTF)
435 int snprintf(char *str,size_t count,const char *fmt,...);
436 #endif
437
438
439 #if !HAVE_STRERROR
440 extern char *sys_errlist[];
441 #define strerror(i) sys_errlist[i]
442 #endif
443
444 #ifndef HAVE_STRCHR
445 # define strchr                 index
446 # define strrchr                rindex
447 #endif
448
449 #ifndef HAVE_ERRNO_DECL
450 extern int errno;
451 #endif
452
453 #define SUPPORT_LINKS HAVE_READLINK
454 #define SUPPORT_HARD_LINKS HAVE_LINK
455
456 #ifndef HAVE_LCHOWN
457 #define lchown chown
458 #endif
459
460 #define SIGNAL_CAST (RETSIGTYPE (*)())
461
462 #ifndef EWOULDBLOCK
463 #define EWOULDBLOCK EAGAIN
464 #endif
465
466 #ifndef STDIN_FILENO
467 #define STDIN_FILENO 0
468 #endif
469
470 #ifndef STDOUT_FILENO
471 #define STDOUT_FILENO 1
472 #endif
473
474 #ifndef STDERR_FILENO
475 #define STDERR_FILENO 2
476 #endif
477
478 #ifndef S_IWUSR
479 #define S_IWUSR 0200
480 #endif
481
482 #ifndef _S_IFMT
483 #define _S_IFMT        0170000
484 #endif
485
486 #ifndef _S_IFLNK
487 #define _S_IFLNK  0120000
488 #endif
489
490 #ifndef S_ISLNK
491 #define S_ISLNK(mode) (((mode) & (_S_IFMT)) == (_S_IFLNK))
492 #endif
493
494 #ifndef S_ISBLK
495 #define S_ISBLK(mode) (((mode) & (_S_IFMT)) == (_S_IFBLK))
496 #endif
497
498 #ifndef S_ISCHR
499 #define S_ISCHR(mode) (((mode) & (_S_IFMT)) == (_S_IFCHR))
500 #endif
501
502 #ifndef S_ISSOCK
503 #ifdef _S_IFSOCK
504 #define S_ISSOCK(mode) (((mode) & (_S_IFMT)) == (_S_IFSOCK))
505 #else
506 #define S_ISSOCK(mode) (0)
507 #endif
508 #endif
509
510 #ifndef S_ISFIFO
511 #ifdef _S_IFIFO
512 #define S_ISFIFO(mode) (((mode) & (_S_IFMT)) == (_S_IFIFO))
513 #else
514 #define S_ISFIFO(mode) (0)
515 #endif
516 #endif
517
518 #ifndef S_ISDIR
519 #define S_ISDIR(mode) (((mode) & (_S_IFMT)) == (_S_IFDIR))
520 #endif
521
522 #ifndef S_ISREG
523 #define S_ISREG(mode) (((mode) & (_S_IFMT)) == (_S_IFREG))
524 #endif
525
526 /* work out what fcntl flag to use for non-blocking */
527 #ifdef O_NONBLOCK
528 # define NONBLOCK_FLAG O_NONBLOCK
529 #elif defined(SYSV)
530 # define NONBLOCK_FLAG O_NDELAY
531 #else 
532 # define NONBLOCK_FLAG FNDELAY
533 #endif
534
535 #ifndef INADDR_LOOPBACK
536 #define INADDR_LOOPBACK 0x7f000001
537 #endif
538
539 #ifndef INADDR_NONE
540 #define INADDR_NONE 0xffffffff
541 #endif
542
543 #define IS_DEVICE(mode) (S_ISCHR(mode) || S_ISBLK(mode) || S_ISSOCK(mode) || S_ISFIFO(mode))
544
545 #ifndef ACCESSPERMS
546 #define ACCESSPERMS 0777
547 #endif
548 /* Initial mask on permissions given to temporary files.  Mask off setuid
549      bits and group access because of potential race-condition security
550      holes, and mask other access because mode 707 is bizarre */
551 #define INITACCESSPERMS 0700
552
553 /* handler for null strings in printf format */
554 #define NS(s) ((s)?(s):"<NULL>")
555
556 /* use magic gcc attributes to catch format errors */
557  void rprintf(enum logcode , const char *, ...)
558 #ifdef __GNUC__
559      __attribute__ ((format (printf, 2, 3)))
560 #endif
561 ;
562
563 /* This is just like rprintf, but it also tries to print some
564  * representation of the error code.  Normally errcode = errno. */
565 void rsyserr(enum logcode, int, const char *, ...)
566 #ifdef __GNUC__
567      __attribute__ ((format (printf, 3, 4)))
568 #endif
569      ;
570
571 #ifdef REPLACE_INET_NTOA
572 #define inet_ntoa rep_inet_ntoa
573 #endif
574
575
576 #ifndef HAVE_STRLCPY
577 size_t strlcpy(char *d, const char *s, size_t bufsize);
578 #endif
579
580 #ifndef HAVE_STRLCAT
581 size_t strlcat(char *d, const char *s, size_t bufsize);
582 #endif
583
584 #ifndef WEXITSTATUS
585 #define WEXITSTATUS(stat)       ((int)(((stat)>>8)&0xFF))
586 #endif
587
588 #define exit_cleanup(code) _exit_cleanup(code, __FILE__, __LINE__)
589
590
591 extern int verbose;
592
593 #ifndef HAVE_INET_NTOP
594 const char *                 
595 inet_ntop(int af, const void *src, char *dst, size_t size);
596 #endif /* !HAVE_INET_NTOP */
597
598 #ifndef HAVE_INET_PTON
599 int isc_net_pton(int af, const char *src, void *dst);
600 #endif