Bug 24114: Remove warn statements from Koha::Patrons
[koha.git] / misc / cronjobs / cleanup_database.pl
1 #!/usr/bin/perl
2
3 # Copyright 2009 PTFS, Inc.
4 #
5 # This file is part of Koha.
6 #
7 # Koha is free software; you can redistribute it and/or modify it
8 # under the terms of the GNU General Public License as published by
9 # the Free Software Foundation; either version 3 of the License, or
10 # (at your option) any later version.
11 #
12 # Koha is distributed in the hope that it will be useful, but
13 # WITHOUT ANY WARRANTY; without even the implied warranty of
14 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
15 # GNU General Public License for more details.
16 #
17 # You should have received a copy of the GNU General Public License
18 # along with Koha; if not, see <http://www.gnu.org/licenses>.
19
20 use Modern::Perl;
21
22 use constant DEFAULT_ZEBRAQ_PURGEDAYS             => 30;
23 use constant DEFAULT_MAIL_PURGEDAYS               => 30;
24 use constant DEFAULT_IMPORT_PURGEDAYS             => 60;
25 use constant DEFAULT_LOGS_PURGEDAYS               => 180;
26 use constant DEFAULT_SEARCHHISTORY_PURGEDAYS      => 30;
27 use constant DEFAULT_SHARE_INVITATION_EXPIRY_DAYS => 14;
28 use constant DEFAULT_DEBARMENTS_PURGEDAYS         => 30;
29
30 BEGIN {
31     # find Koha's Perl modules
32     # test carefully before changing this
33     use FindBin;
34     eval { require "$FindBin::Bin/../kohalib.pl" };
35 }
36
37 use Koha::Script -cron;
38 use C4::Context;
39 use C4::Search;
40 use C4::Search::History;
41 use Getopt::Long;
42 use C4::Log;
43 use C4::Accounts;
44 use Koha::UploadedFiles;
45
46 sub usage {
47     print STDERR <<USAGE;
48 Usage: $0 [-h|--help] [--sessions] [--sessdays DAYS] [-v|--verbose] [--zebraqueue DAYS] [-m|--mail] [--merged] [--import DAYS] [--logs DAYS] [--searchhistory DAYS] [--restrictions DAYS] [--all-restrictions] [--fees DAYS] [--temp-uploads] [--temp-uploads-days DAYS] [--uploads-missing 0|1 ] [--statistics DAYS] [--deleted-catalog DAYS] [--deleted-patrons DAYS] [--old-issues DAYS] [--old-reserves DAYS] [--transfers DAYS]
49
50    -h --help          prints this help message, and exits, ignoring all
51                       other options
52    --sessions         purge the sessions table.  If you use this while users 
53                       are logged into Koha, they will have to reconnect.
54    --sessdays DAYS    purge only sessions older than DAYS days.
55    -v --verbose       will cause the script to give you a bit more information
56                       about the run.
57    --zebraqueue DAYS  purge completed zebraqueue entries older than DAYS days.
58                       Defaults to 30 days if no days specified.
59    -m --mail DAYS     purge items from the mail queue that are older than DAYS days.
60                       Defaults to 30 days if no days specified.
61    --merged           purged completed entries from need_merge_authorities.
62    --import DAYS      purge records from import tables older than DAYS days.
63                       Defaults to 60 days if no days specified.
64    --z3950            purge records from import tables that are the result
65                       of Z39.50 searches
66    --fees DAYS        purge entries accountlines older than DAYS days, where
67                       amountoutstanding is 0 or NULL.
68                       In the case of --fees, DAYS must be greater than
69                       or equal to 1.
70    --logs DAYS        purge entries from action_logs older than DAYS days.
71                       Defaults to 180 days if no days specified.
72    --searchhistory DAYS  purge entries from search_history older than DAYS days.
73                          Defaults to 30 days if no days specified
74    --list-invites  DAYS  purge (unaccepted) list share invites older than DAYS
75                          days.  Defaults to 14 days if no days specified.
76    --restrictions DAYS   purge patrons restrictions expired since more than DAYS days.
77                          Defaults to 30 days if no days specified.
78     --all-restrictions   purge all expired patrons restrictions.
79    --del-exp-selfreg  Delete expired self registration accounts
80    --del-unv-selfreg  DAYS  Delete unverified self registrations older than DAYS
81    --unique-holidays DAYS  Delete all unique holidays older than DAYS
82    --temp-uploads     Delete temporary uploads.
83    --temp-uploads-days DAYS Override the corresponding preference value.
84    --uploads-missing FLAG Delete upload records for missing files when FLAG is true, count them otherwise
85    --oauth-tokens     Delete expired OAuth2 tokens
86    --statistics DAYS       Purge statistics entries more than DAYS days old.
87    --deleted-catalog  DAYS Purge catalog records deleted more then DAYS days ago
88                            (from tables deleteditems, deletedbiblioitems, deletedbiblio_metadata and deletedbiblio).
89    --deleted-patrons DAYS  Purge patrons deleted more than DAYS days ago.
90    --old-issues DAYS       Purge checkouts (old_issues) returned more than DAYS days ago.
91    --old-reserves DAYS     Purge reserves (old_reserves) more than DAYS old.
92    --transfers DAYS        Purge transfers completed more than DAYS day ago.
93 USAGE
94     exit $_[0];
95 }
96
97 my $help;
98 my $sessions;
99 my $sess_days;
100 my $verbose;
101 my $zebraqueue_days;
102 my $mail;
103 my $purge_merged;
104 my $pImport;
105 my $pLogs;
106 my $pSearchhistory;
107 my $pZ3950;
108 my $pListShareInvites;
109 my $pDebarments;
110 my $allDebarments;
111 my $pExpSelfReg;
112 my $pUnvSelfReg;
113 my $fees_days;
114 my $special_holidays_days;
115 my $temp_uploads;
116 my $temp_uploads_days;
117 my $uploads_missing;
118 my $oauth_tokens;
119 my $pStatistics;
120 my $pDeletedCatalog;
121 my $pDeletedPatrons;
122 my $pOldIssues;
123 my $pOldReserves;
124 my $pTransfers;
125
126 GetOptions(
127     'h|help'            => \$help,
128     'sessions'          => \$sessions,
129     'sessdays:i'        => \$sess_days,
130     'v|verbose'         => \$verbose,
131     'm|mail:i'          => \$mail,
132     'zebraqueue:i'      => \$zebraqueue_days,
133     'merged'            => \$purge_merged,
134     'import:i'          => \$pImport,
135     'z3950'             => \$pZ3950,
136     'logs:i'            => \$pLogs,
137     'fees:i'            => \$fees_days,
138     'searchhistory:i'   => \$pSearchhistory,
139     'list-invites:i'    => \$pListShareInvites,
140     'restrictions:i'    => \$pDebarments,
141     'all-restrictions'  => \$allDebarments,
142     'del-exp-selfreg'   => \$pExpSelfReg,
143     'del-unv-selfreg'   => \$pUnvSelfReg,
144     'unique-holidays:i' => \$special_holidays_days,
145     'temp-uploads'      => \$temp_uploads,
146     'temp-uploads-days:i' => \$temp_uploads_days,
147     'uploads-missing:i' => \$uploads_missing,
148     'oauth-tokens'      => \$oauth_tokens,
149     'statistics:i'      => \$pStatistics,
150     'deleted-catalog:i' => \$pDeletedCatalog,
151     'deleted-patrons:i' => \$pDeletedPatrons,
152     'old-issues:i'      => \$pOldIssues,
153     'old-reserves:i'    => \$pOldReserves,
154     'transfers:i'    => \$pTransfers,
155 ) || usage(1);
156
157 # Use default values
158 $sessions          = 1                                    if $sess_days                  && $sess_days > 0;
159 $pImport           = DEFAULT_IMPORT_PURGEDAYS             if defined($pImport)           && $pImport == 0;
160 $pLogs             = DEFAULT_LOGS_PURGEDAYS               if defined($pLogs)             && $pLogs == 0;
161 $zebraqueue_days   = DEFAULT_ZEBRAQ_PURGEDAYS             if defined($zebraqueue_days)   && $zebraqueue_days == 0;
162 $mail              = DEFAULT_MAIL_PURGEDAYS               if defined($mail)              && $mail == 0;
163 $pSearchhistory    = DEFAULT_SEARCHHISTORY_PURGEDAYS      if defined($pSearchhistory)    && $pSearchhistory == 0;
164 $pListShareInvites = DEFAULT_SHARE_INVITATION_EXPIRY_DAYS if defined($pListShareInvites) && $pListShareInvites == 0;
165 $pDebarments       = DEFAULT_DEBARMENTS_PURGEDAYS         if defined($pDebarments)       && $pDebarments == 0;
166
167 if ($help) {
168     usage(0);
169 }
170
171 unless ( $sessions
172     || $zebraqueue_days
173     || $mail
174     || $purge_merged
175     || $pImport
176     || $pLogs
177     || $fees_days
178     || $pSearchhistory
179     || $pZ3950
180     || $pListShareInvites
181     || $pDebarments
182     || $allDebarments
183     || $pExpSelfReg
184     || $pUnvSelfReg
185     || $special_holidays_days
186     || $temp_uploads
187     || defined $uploads_missing
188     || $oauth_tokens
189     || $pStatistics
190     || $pDeletedCatalog
191     || $pDeletedPatrons
192     || $pOldIssues
193     || $pOldReserves
194     || $pTransfers
195 ) {
196     print "You did not specify any cleanup work for the script to do.\n\n";
197     usage(1);
198 }
199
200 if ($pDebarments && $allDebarments) {
201     print "You can not specify both --restrictions and --all-restrictions.\n\n";
202     usage(1);
203 }
204
205 cronlogaction();
206
207 my $dbh = C4::Context->dbh();
208 my $sth;
209 my $sth2;
210 my $count;
211
212 if ( $sessions && !$sess_days ) {
213     if ($verbose) {
214         print "Session purge triggered.\n";
215         $sth = $dbh->prepare(q{ SELECT COUNT(*) FROM sessions });
216         $sth->execute() or die $dbh->errstr;
217         my @count_arr = $sth->fetchrow_array;
218         print "$count_arr[0] entries will be deleted.\n";
219     }
220     $sth = $dbh->prepare(q{ TRUNCATE sessions });
221     $sth->execute() or die $dbh->errstr;
222     if ($verbose) {
223         print "Done with session purge.\n";
224     }
225 }
226 elsif ( $sessions && $sess_days > 0 ) {
227     print "Session purge triggered with days>$sess_days.\n" if $verbose;
228     RemoveOldSessions();
229     print "Done with session purge with days>$sess_days.\n" if $verbose;
230 }
231
232 if ($zebraqueue_days) {
233     $count = 0;
234     print "Zebraqueue purge triggered for $zebraqueue_days days.\n" if $verbose;
235     $sth = $dbh->prepare(
236         q{
237             SELECT id,biblio_auth_number,server,time
238             FROM zebraqueue
239             WHERE done=1 AND time < date_sub(curdate(), INTERVAL ? DAY)
240         }
241     );
242     $sth->execute($zebraqueue_days) or die $dbh->errstr;
243     $sth2 = $dbh->prepare(q{ DELETE FROM zebraqueue WHERE id=? });
244     while ( my $record = $sth->fetchrow_hashref ) {
245         $sth2->execute( $record->{id} ) or die $dbh->errstr;
246         $count++;
247     }
248     print "$count records were deleted.\nDone with zebraqueue purge.\n" if $verbose;
249 }
250
251 if ($mail) {
252     print "Mail queue purge triggered for $mail days.\n" if $verbose;
253     $sth = $dbh->prepare(
254         q{
255             DELETE FROM message_queue
256             WHERE time_queued < date_sub(curdate(), INTERVAL ? DAY)
257         }
258     );
259     $sth->execute($mail) or die $dbh->errstr;
260     $count = $sth->rows;
261     $sth->finish;
262     print "$count messages were deleted from the mail queue.\nDone with message_queue purge.\n" if $verbose;
263 }
264
265 if ($purge_merged) {
266     print "Purging completed entries from need_merge_authorities.\n" if $verbose;
267     $sth = $dbh->prepare(q{ DELETE FROM need_merge_authorities WHERE done=1 });
268     $sth->execute() or die $dbh->errstr;
269     print "Done with purging need_merge_authorities.\n" if $verbose;
270 }
271
272 if ($pImport) {
273     print "Purging records from import tables.\n" if $verbose;
274     PurgeImportTables();
275     print "Done with purging import tables.\n" if $verbose;
276 }
277
278 if ($pZ3950) {
279     print "Purging Z39.50 records from import tables.\n" if $verbose;
280     PurgeZ3950();
281     print "Done with purging Z39.50 records from import tables.\n" if $verbose;
282 }
283
284 if ($pLogs) {
285     print "Purging records from action_logs.\n" if $verbose;
286     $sth = $dbh->prepare(
287         q{
288             DELETE FROM action_logs
289             WHERE timestamp < date_sub(curdate(), INTERVAL ? DAY)
290         }
291     );
292     $sth->execute($pLogs) or die $dbh->errstr;
293     print "Done with purging action_logs.\n" if $verbose;
294 }
295
296 if ($fees_days) {
297     print "Purging records from accountlines.\n" if $verbose;
298     purge_zero_balance_fees( $fees_days );
299     print "Done purging records from accountlines.\n" if $verbose;
300 }
301
302 if ($pSearchhistory) {
303     print "Purging records older than $pSearchhistory from search_history.\n" if $verbose;
304     C4::Search::History::delete({ interval => $pSearchhistory });
305     print "Done with purging search_history.\n" if $verbose;
306 }
307
308 if ($pListShareInvites) {
309     print "Purging unaccepted list share invites older than $pListShareInvites days.\n" if $verbose;
310     $sth = $dbh->prepare(
311         q{
312             DELETE FROM virtualshelfshares
313             WHERE invitekey IS NOT NULL
314             AND (sharedate + INTERVAL ? DAY) < NOW()
315         }
316     );
317     $sth->execute($pListShareInvites);
318     print "Done with purging unaccepted list share invites.\n" if $verbose;
319 }
320
321 if ($pDebarments) {
322     print "Expired patrons restrictions purge triggered for $pDebarments days.\n" if $verbose;
323     $count = PurgeDebarments($pDebarments);
324     print "$count restrictions were deleted.\nDone with restrictions purge.\n" if $verbose;
325 }
326
327 if($allDebarments) {
328     print "All expired patrons restrictions purge triggered.\n" if $verbose;
329     $count = PurgeDebarments(0);
330     print "$count restrictions were deleted.\nDone with all restrictions purge.\n" if $verbose;
331 }
332
333 # Handle unsubscribe requests from GDPR consent form, depends on UnsubscribeReflectionDelay preference
334 my $unsubscribed_patrons = Koha::Patrons->search_unsubscribed;
335 $unsubscribed_patrons->lock( { expire => 1, remove => 1 } );
336 say sprintf "Locked %d patrons", $unsubscribed_patrons->count if $verbose;
337
338 # Anonymize patron data, depending on PatronAnonymizeDelay
339 my $anonymize_candidates = Koha::Patrons->search_anonymize_candidates( { locked => 1 } );
340 $anonymize_candidates->anonymize;
341 say sprintf "Anonymized %s patrons", $anonymize_candidates->count if $verbose;
342
343 # Remove patron data, depending on PatronRemovalDelay (will raise an exception if problem encountered
344 my $anonymized_patrons = Koha::Patrons->search_anonymized;
345 $anonymized_patrons->delete( { move => 1 } );
346 if ($@) {
347     warn $@;
348 }
349 elsif ($verbose) {
350     say sprintf "Deleted %d patrons", $anonymized_patrons->count;
351 }
352
353 if( $pExpSelfReg ) {
354     DeleteExpiredSelfRegs();
355 }
356 if( $pUnvSelfReg ) {
357     DeleteUnverifiedSelfRegs( $pUnvSelfReg );
358 }
359
360 if ($special_holidays_days) {
361     DeleteSpecialHolidays( abs($special_holidays_days) );
362 }
363
364 if( $temp_uploads ) {
365     # Delete temporary uploads, governed by a pref (unless you override)
366     print "Purging temporary uploads.\n" if $verbose;
367     Koha::UploadedFiles->delete_temporary({
368         defined($temp_uploads_days)
369             ? ( override_pref => $temp_uploads_days )
370             : ()
371     });
372     print "Done purging temporary uploads.\n" if $verbose;
373 }
374
375 if( defined $uploads_missing ) {
376     print "Looking for missing uploads\n" if $verbose;
377     my $keep = $uploads_missing == 1 ? 0 : 1;
378     my $count = Koha::UploadedFiles->delete_missing({ keep_record => $keep });
379     if( $keep ) {
380         print "Counted $count missing uploaded files\n";
381     } else {
382         print "Removed $count records for missing uploads\n";
383     }
384 }
385
386 if ($oauth_tokens) {
387     require Koha::OAuthAccessTokens;
388
389     my $count = int Koha::OAuthAccessTokens->search({ expires => { '<=', time } })->delete;
390     say "Removed $count expired OAuth2 tokens" if $verbose;
391 }
392
393 if ($pStatistics) {
394     print "Purging statistics older than $pStatistics days.\n" if $verbose;
395     $sth = $dbh->prepare(
396         q{
397             DELETE FROM statistics
398             WHERE datetime < DATE_SUB(CURDATE(), INTERVAL ? DAY)
399         }
400     );
401     $sth->execute($pStatistics);
402     print "Done with purging statistics.\n" if $verbose;
403 }
404
405 if ($pDeletedCatalog) {
406     print "Purging deleted catalog older than $pDeletedCatalog days.\n" if $verbose;
407     my $sth1 = $dbh->prepare(
408         q{
409             DELETE FROM deleteditems
410             WHERE timestamp < DATE_SUB(CURDATE(), INTERVAL ? DAY)
411         }
412     );
413     my $sth2 = $dbh->prepare(
414         q{
415             DELETE FROM deletedbiblioitems
416             WHERE timestamp < DATE_SUB(CURDATE(), INTERVAL ? DAY)
417         }
418     );
419     my $sth3 = $dbh->prepare(
420         q{
421             DELETE FROM deletedbiblio
422             WHERE timestamp < DATE_SUB(CURDATE(), INTERVAL ? DAY)
423         }
424     );
425     # deletedbiblio_metadata is managed by FK with deletedbiblio
426     $sth1->execute($pDeletedCatalog);
427     $sth2->execute($pDeletedCatalog);
428     $sth3->execute($pDeletedCatalog);
429     print "Done with purging deleted catalog.\n" if $verbose;
430 }
431
432 if ($pDeletedPatrons) {
433     print "Purging deleted patrons older than $pDeletedPatrons days.\n" if $verbose;
434     $sth = $dbh->prepare(
435         q{
436             DELETE FROM deletedborrowers
437             WHERE updated_on < DATE_SUB(CURDATE(), INTERVAL ? DAY)
438         }
439     );
440     $sth->execute($pDeletedPatrons);
441     print "Done with purging deleted patrons.\n" if $verbose;
442 }
443
444 if ($pOldIssues) {
445     print "Purging old checkouts older than $pOldIssues days.\n" if $verbose;
446     $sth = $dbh->prepare(
447         q{
448             DELETE FROM old_issues
449             WHERE timestamp < DATE_SUB(CURDATE(), INTERVAL ? DAY)
450         }
451     );
452     $sth->execute($pOldIssues);
453     print "Done with purging old issues.\n" if $verbose;
454 }
455
456 if ($pOldReserves) {
457     print "Purging old reserves older than $pOldReserves days.\n" if $verbose;
458     $sth = $dbh->prepare(
459         q{
460             DELETE FROM old_reserves
461             WHERE timestamp < DATE_SUB(CURDATE(), INTERVAL ? DAY)
462         }
463     );
464     $sth->execute($pOldReserves);
465     print "Done with purging old reserves.\n" if $verbose;
466 }
467
468 if ($pTransfers) {
469     print "Purging arrived item transfers older than $pTransfers days.\n" if $verbose;
470     $sth = $dbh->prepare(
471         q{
472             DELETE FROM branchtransfers
473             WHERE datearrived < DATE_SUB(CURDATE(), INTERVAL ? DAY)
474         }
475     );
476     $sth->execute($pTransfers);
477     print "Done with purging transfers.\n" if $verbose;
478 }
479
480 exit(0);
481
482 sub RemoveOldSessions {
483     my ( $id, $a_session, $limit, $lasttime );
484     $limit = time() - 24 * 3600 * $sess_days;
485
486     $sth = $dbh->prepare(q{ SELECT id, a_session FROM sessions });
487     $sth->execute or die $dbh->errstr;
488     $sth->bind_columns( \$id, \$a_session );
489     $sth2  = $dbh->prepare(q{ DELETE FROM sessions WHERE id=? });
490     $count = 0;
491
492     while ( $sth->fetch ) {
493         $lasttime = 0;
494         if ( $a_session =~ /lasttime:\s+'?(\d+)/ ) {
495             $lasttime = $1;
496         }
497         elsif ( $a_session =~ /(ATIME|CTIME):\s+'?(\d+)/ ) {
498             $lasttime = $2;
499         }
500         if ( $lasttime && $lasttime < $limit ) {
501             $sth2->execute($id) or die $dbh->errstr;
502             $count++;
503         }
504     }
505     if ($verbose) {
506         print "$count sessions were deleted.\n";
507     }
508 }
509
510 sub PurgeImportTables {
511
512     #First purge import_records
513     #Delete cascades to import_biblios, import_items and import_record_matches
514     $sth = $dbh->prepare(
515         q{
516             DELETE FROM import_records
517             WHERE upload_timestamp < date_sub(curdate(), INTERVAL ? DAY)
518         }
519     );
520     $sth->execute($pImport) or die $dbh->errstr;
521
522     # Now purge import_batches
523     # Timestamp cannot be used here without care, because records are added
524     # continuously to batches without updating timestamp (Z39.50 search).
525     # So we only delete older empty batches.
526     # This delete will therefore not have a cascading effect.
527     $sth = $dbh->prepare(
528         q{
529             DELETE ba
530             FROM import_batches ba
531             LEFT JOIN import_records re ON re.import_batch_id=ba.import_batch_id
532             WHERE re.import_record_id IS NULL AND
533             ba.upload_timestamp < date_sub(curdate(), INTERVAL ? DAY)
534         }
535     );
536     $sth->execute($pImport) or die $dbh->errstr;
537 }
538
539 sub PurgeZ3950 {
540     $sth = $dbh->prepare(
541         q{
542             DELETE FROM import_batches
543             WHERE batch_type = 'z3950'
544         }
545     );
546     $sth->execute() or die $dbh->errstr;
547 }
548
549 sub PurgeDebarments {
550     require Koha::Patron::Debarments;
551     my $days = shift;
552     $count = 0;
553     $sth   = $dbh->prepare(
554         q{
555             SELECT borrower_debarment_id
556             FROM borrower_debarments
557             WHERE expiration < date_sub(curdate(), INTERVAL ? DAY)
558         }
559     );
560     $sth->execute($days) or die $dbh->errstr;
561     while ( my ($borrower_debarment_id) = $sth->fetchrow_array ) {
562         Koha::Patron::Debarments::DelDebarment($borrower_debarment_id);
563         $count++;
564     }
565     return $count;
566 }
567
568 sub DeleteExpiredSelfRegs {
569     my $cnt= C4::Members::DeleteExpiredOpacRegistrations();
570     print "Removed $cnt expired self-registered borrowers\n" if $verbose;
571 }
572
573 sub DeleteUnverifiedSelfRegs {
574     my $cnt= C4::Members::DeleteUnverifiedOpacRegistrations( $_[0] );
575     print "Removed $cnt unverified self-registrations\n" if $verbose;
576 }
577
578 sub DeleteSpecialHolidays {
579     my ( $days ) = @_;
580
581     my $sth = $dbh->prepare(q{
582         DELETE FROM special_holidays
583         WHERE DATE( CONCAT( year, '-', month, '-', day ) ) < DATE_SUB( CAST(NOW() AS DATE), INTERVAL ? DAY );
584     });
585     my $count = $sth->execute( $days ) + 0;
586     print "Removed $count unique holidays\n" if $verbose;
587 }