[BACK]Return to searchcat.pl CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / metadata_database

Diff for /loncom/metadata_database/searchcat.pl between versions 1.76 and 1.84

version 1.76, 2007/04/11 22:44:18 version 1.84, 2016/01/31 21:25:49
Line 74  use IO::File; Line 74  use IO::File;
 use HTML::TokeParser;  use HTML::TokeParser;
 use GDBM_File;  use GDBM_File;
 use POSIX qw(strftime mktime);  use POSIX qw(strftime mktime);
   use Mail::Send;
   use Apache::loncommon();
   
 use Apache::lonnet();  use Apache::lonnet();
   
Line 123  my %oldnames = ( Line 125  my %oldnames = (
                  'portfolio'   => 'portfolio_metadata',                   'portfolio'   => 'portfolio_metadata',
                  'access'      => 'portfolio_access',                   'access'      => 'portfolio_access',
                  'addedfields' => 'portfolio_addedfields',                   'addedfields' => 'portfolio_addedfields',
                    'allusers'    => 'allusers',
                );                 );
   
 my %newnames;  my %newnames;
Line 134  foreach my $key (keys(%oldnames)) { Line 137  foreach my $key (keys(%oldnames)) {
 #  #
 # Only run if machine is a library server  # Only run if machine is a library server
 exit if ($Apache::lonnet::perlvar{'lonRole'} ne 'library');  exit if ($Apache::lonnet::perlvar{'lonRole'} ne 'library');
   my $hostid = $Apache::lonnet::perlvar{'lonHostID'};
   
 #  #
 #  Make sure this process is running from user=www  #  Make sure this process is running from user=www
 my $wwwid=getpwnam('www');  my $wwwid=getpwnam('www');
Line 172  foreach my $key (keys(%newnames)) { Line 177  foreach my $key (keys(%newnames)) {
 }  }
   
 #  #
 # Create the new metadata and portfolio tables  # Create the new metadata, portfolio and allusers tables
 foreach my $key (keys(%newnames)) {  foreach my $key (keys(%newnames)) {
     if ($newnames{$key} ne '') {       if ($newnames{$key} ne '') { 
         my $request =          my $request =
Line 206  foreach my $dom (@domains) { Line 211  foreach my $dom (@domains) {
     if ($oneuser) {      if ($oneuser) {
         @homeusers=($oneuser);          @homeusers=($oneuser);
     }      }
   
     #      #
     # Loop through the users      # Loop through the users
     foreach my $user (@homeusers) {      foreach my $user (@homeusers) {
Line 221  foreach my $dom (@domains) { Line 227  foreach my $dom (@domains) {
               no_chdir   => 1,                no_chdir   => 1,
              }, join('/',($Apache::lonnet::perlvar{'lonDocRoot'},'res',$dom,$user)) );               }, join('/',($Apache::lonnet::perlvar{'lonDocRoot'},'res',$dom,$user)) );
     }      }
     # Search for public portfolio files      # Search for all users and public portfolio files
     my %portusers;      my (%allusers,%portusers,%courses);
     if ($oneuser) {      if ($oneuser) {
         %portusers = (          %portusers = (
                         $oneuser => '',                          $oneuser => '',
                        );                         );
           %allusers = (
                           $oneuser => '',
                          );
           %courses = &courseiddump($dom,'.',1,'.','.',$oneuser,undef,
                                    undef,'.');
     } else {      } else {
           # get courseIDs for domain on current machine
           %courses=&Apache::lonnet::courseiddump($dom,'.',1,'.','.','.',1,[$hostid],'.');
         my $dir = $Apache::lonnet::perlvar{lonUsersDir}.'/'.$dom;          my $dir = $Apache::lonnet::perlvar{lonUsersDir}.'/'.$dom;
         &descend_tree($dir,0,\%portusers);          &descend_tree($dom,$dir,0,\%portusers,\%allusers);
     }      }
     foreach my $uname (keys(%portusers)) {      foreach my $uname (keys(%portusers)) {
         my $urlstart = '/uploaded/'.$dom.'/'.$uname;          my $urlstart = '/uploaded/'.$dom.'/'.$uname;
         my $pathstart = &propath($dom,$uname).'/userfiles';          my $pathstart = &propath($dom,$uname).'/userfiles';
         my $is_course = &Apache::lonnet::is_course($dom,$uname);          my $is_course = '';
           if (exists($courses{$dom.'_'.$uname})) {
               $is_course = 1;
           }
         my $curr_perm = &Apache::lonnet::get_portfile_permissions($dom,$uname);          my $curr_perm = &Apache::lonnet::get_portfile_permissions($dom,$uname);
         my %access = &Apache::lonnet::get_access_controls($curr_perm);          my %access = &Apache::lonnet::get_access_controls($curr_perm);
         foreach my $file (keys(%access)) {          foreach my $file (keys(%access)) {
Line 257  foreach my $dom (@domains) { Line 273  foreach my $dom (@domains) {
             &portfolio_logging(%portmetalog);              &portfolio_logging(%portmetalog);
         }          }
     }      }
       my %duplicates;
       my %names_by_id = (
                             id       => {},
                             clickers => {},
                         );
       my %ids_by_name = (
                             id       => {},
                             clickers => {},
                         );
       my %idstodelete = (
                             id       => {},
                             clickers => {}, 
                         );
       my %idstoadd    = (
                             id       => {},
                             clickers => {},
                         );
       my %namespace  = (
                            id       => 'ids',
                            clickers => 'clickers',
                        );
       my %idtext = (
                        id       => 'employee/student IDs',
                        clickers => 'clicker IDs',
                    );
       unless ($simulate || $oneuser) {
           foreach my $key ('id','clickers') {
               my $hashref = &tie_domain_hash($dom,$namespace{$key},&GDBM_WRCREAT());
               if (ref($hashref) eq 'HASH') {
                   while (my ($id,$unamestr) = each(%{$hashref}) ) {
                       $id = &unescape($id);
                       $unamestr = &unescape($unamestr);
                       if ($key eq 'clickers') {
                           my @unames = split(/,/,$unamestr);
                           foreach my $uname (@unames) {
                               push(@{$ids_by_name{$key}{$uname}},$id);
                           }
                           $names_by_id{$key}{$id} = $unamestr;
                       } else {
                           $names_by_id{$key}{$id} = $unamestr;
                           push(@{$ids_by_name{$key}{$unamestr}},$id);
                       }
                   }
                   &untie_domain_hash($hashref);
               }
           }
       }
       # Update allusers
       foreach my $uname (keys(%allusers)) {
           next if (exists($courses{$dom.'_'.$uname}));
           my %userdata = 
               &Apache::lonnet::get('environment',['firstname','lastname',
                   'middlename','generation','id','permanentemail','clickers'],
                                    $dom,$uname);
           unless ($simulate || $oneuser) {
               foreach my $key ('id','clickers') {
                   my %addid = ();
                   if ($userdata{$key} ne '') {
                       my $idfromenv = $userdata{$key};
                       if ($key eq 'id') {
                           $idfromenv=~tr/A-Z/a-z/;
                           $addid{$idfromenv} = 1;
                       } else {
                           $idfromenv =~ s/^\s+//;
                           $idfromenv =~ s/\s+$//;
                           map { $addid{$_} = 1; } split(/,/,$idfromenv);
                       }
                   }
                   if (ref($ids_by_name{$key}{$uname}) eq 'ARRAY') {
                       if (scalar(@{$ids_by_name{$key}{$uname}}) > 1) {
                           &log(0,"Multiple $idtext{$key} found in $namespace{$key}.db for $uname:$dom -- ".
                                join(', ',@{$ids_by_name{$key}{$uname}}));
                       }
                       foreach my $id (@{$ids_by_name{$key}{$uname}}) {
                            if ($addid{$id}) {
                               delete($addid{$id});
                            } else {
                               if ($key eq 'id') {
                                   $idstodelete{$key}{$id} = $uname;
                               } else {
                                   $idstodelete{$key}{$id} .= $uname.',';
                               }
                           }
                       }
                   }
                   if (keys(%addid)) {
                       foreach my $id (keys(%addid)) {
                           if ($key eq 'id') {
                               if (exists($idstoadd{$key}{$id})) {
                                   push(@{$duplicates{$id}},$uname);
                               } else {
                                   $idstoadd{$key}{$id} = $uname;
                               }
                           } else {
                               $idstoadd{$key}{$id} .= $uname.',';
                           }
                       }
                   }
               }
           }
   
           $userdata{'username'} = $uname;
           $userdata{'domain'} = $dom;
           my %alluserslog = 
               &LONCAPA::lonmetadata::process_allusers_data($dbh,$simulate,
                   \%newnames,$uname,$dom,\%userdata);
           foreach my $item (keys(%alluserslog)) {
               &log(0,$alluserslog{$item});
           }
       }
       unless ($simulate || $oneuser) {
           foreach my $key ('id','clickers') { 
               if (keys(%{$idstodelete{$key}}) > 0) {
                   my %resulthash;
                   if ($key eq 'id') {
                       %resulthash = &Apache::lonnet::iddel($dom,$idstodelete{$key},$hostid,$namespace{$key});
                   } else {
                       foreach my $delid (sort(keys(%{$idstodelete{$key}}))) {
                           $idstodelete{$key}{$delid} =~ s/,$//;
                       }
                       %resulthash = &Apache::lonnet::iddel($dom,$idstodelete{$key},$hostid,$namespace{$key});
                   }
                   if ($resulthash{$hostid} eq 'ok') {
                       foreach my $id (sort(keys(%{$idstodelete{$key}}))) {
                           &log(0,"Record deleted from $namespace{$key}.db for $dom -- $id => ".$idstodelete{$key}{$id});
                       }
                   } else {
                       &log(0,"Error: '$resulthash{$hostid}' occurred when attempting to delete records from $namespace{$key}.db for $dom");
                   }
               }
               if (keys(%{$idstoadd{$key}}) > 0) {
                   my $idmessage = '';
                   my %newids;
                   if ($key eq 'id') {
                       foreach my $addid (sort(keys(%{$idstoadd{$key}}))) {
                           if ((exists($names_by_id{$key}{$addid})) && ($names_by_id{$key}{$addid} ne $idstoadd{$key}{$addid})  && !($idstodelete{$key}{$addid})) {
                               &log(0,"Two usernames associated with a single ID $addid in domain: $dom: $names_by_id{$key}{$addid} (current) and $idstoadd{$key}{$addid}\n");
                               $idmessage .= "$addid,$names_by_id{$key}{$addid},$idstoadd{$key}{$addid}\n";
                           } else {
                               $newids{$addid} = $idstoadd{$key}{$addid};
                           }
                       }
                   } else {
                       foreach my $addid (sort(keys(%{$idstoadd{$key}}))) {
                           $idstoadd{$key}{$addid} =~ s/,$//;
                           $newids{$addid} = $idstoadd{$key}{$addid};
                       }
                   }
                   if (keys(%newids) > 0) {
                       my $putresult;
                       if ($key eq 'clickers') {
                           $putresult = &Apache::lonnet::updateclickers($dom,'add',\%newids,$hostid); 
                       } else {
                           $putresult = &Apache::lonnet::put_dom($namespace{$key},\%newids,$dom,$hostid);
                       } 
                       if ($putresult eq 'ok') {
                           foreach my $id (sort(keys(%newids))) {
                               &log(0,"Record added to $namespace{$key}.db for $dom -- $id => ".$newids{$id});
                           }
                       } else {
                           &log(0,"Error: '$putresult' occurred when attempting to add records to $namespace{$key}.db for $dom"); 
                       }
                   }
                   if ($idmessage) {
                       my $to = &Apache::loncommon::build_recipient_list(undef,'idconflictsmail',$dom);
                       if ($to ne '') {
                           my $msg = new Mail::Send;
                           $msg->to($to);
                           $msg->subject('LON-CAPA studentIDs conflict');
                           my $lonhost = $Apache::lonnet::perlvar{'lonHostID'};
                           my $hostname = &Apache::lonnet::hostname($lonhost);
                           my $replytoaddress = 'do-not-reply@'.$hostname;
                           $msg->add('Reply-to',$replytoaddress);
                           $msg->add('From','www@'.$hostname);
                           $msg->add('Content-type','text/plain; charset=UTF-8');
                           if (my $fh = $msg->open()) {
                               print $fh 
                                   'The following IDs are used for more than one user in your domain:'."\n".
                                   'Each row contains: Student/Employee ID, Current username in ids.db file, '.
                                   'Additional username'."\n\n".
                                   $idmessage;
                               $fh->close;
                           }
                       }
                   }
               }
           }
           if (keys(%duplicates) > 0) {
               foreach my $id (sort(keys(%duplicates))) {
                   if (ref($duplicates{$id}) eq 'ARRAY') {
                       &log(0,"Duplicate IDs found for entries to add to ids.db in $dom -- $id => ".join(',',@{$duplicates{$id}}));
                   }
               }
           }
       }
 }  }
   
 #  #
Line 317  sub portfolio_logging { Line 528  sub portfolio_logging {
 }  }
   
 sub descend_tree {  sub descend_tree {
     my ($dir,$depth,$alldomusers) = @_;      my ($dom,$dir,$depth,$allportusers,$alldomusers) = @_;
     if (-d $dir) {      if (-d $dir) {
         opendir(DIR,$dir);          opendir(DIR,$dir);
         my @contents = grep(!/^\./,readdir(DIR));          my @contents = grep(!/^\./,readdir(DIR));
         closedir(DIR);          closedir(DIR);
         $depth ++;          $depth ++;
         foreach my $item (@contents) {          foreach my $item (@contents) {
             if ($depth < 4) {              if (($depth < 4) && (length($item) == 1)) {
                 &descend_tree($dir.'/'.$item,$depth,$alldomusers);                  &descend_tree($dom,$dir.'/'.$item,$depth,$allportusers,$alldomusers);
             } else {              } else {
                 if (-e $dir.'/'.$item.'/file_permissions.db') {                  if (-e $dir.'/'.$item.'/file_permissions.db') {
                                        $$allportusers{$item} = '';
                   }
                   if (-e $dir.'/'.$item.'/passwd') {
                     $$alldomusers{$item} = '';                      $$alldomusers{$item} = '';
                 }                  }
             }                     }       
Removed from v.1.76  
changed lines
  Added in v.1.84

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>