[BACK]Return to searchcat.pl CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / metadata_database

Diff for /loncom/metadata_database/searchcat.pl between versions 1.34 and 1.44

version 1.34, 2003/06/19 20:24:57 version 1.44, 2003/12/23 15:47:26
Line 76  use POSIX qw(strftime mktime); Line 76  use POSIX qw(strftime mktime);
   
 my @metalist;  my @metalist;
   
   $simplestatus='';
   my %countext=();
   
   sub writesimple {
       open(SMP,'>/home/httpd/html/lon-status/mysql.txt');
       print SMP $simplestatus."\n";
       close(SMP);
   }
   
   sub writecount {
       open(RSMP,'>/home/httpd/html/lon-status/rescount.txt');
       foreach (keys %countext) {
    print RSMP $_.'='.$countext{$_}.'&';
       }
       print RSMP 'time='.time."\n";
       close(RSMP);
   }
   
   sub count {
       my $file=shift;
       $file=~/\.(\w+)$/;
       my $ext=lc($1);
       if (defined($countext{$ext})) {
    $countext{$ext}++;
       } else {
    $countext{$ext}=1;
       }
   }
 # ----------------------------------------------------- Un-Escape Special Chars  # ----------------------------------------------------- Un-Escape Special Chars
   
 sub unescape {  sub unescape {
Line 97  sub escape { Line 124  sub escape {
 # ------------------------------------------- Code to evaluate dynamic metadata  # ------------------------------------------- Code to evaluate dynamic metadata
   
 sub dynamicmeta {  sub dynamicmeta {
   
     my $url=&declutter(shift);      my $url=&declutter(shift);
     $url=~s/\.meta$//;      $url=~s/\.meta$//;
     my %returnhash=();      my %returnhash=();
     my ($adomain,$aauthor)=($url=~/^(\w+)\/(\w+)\//);      my ($adomain,$aauthor)=($url=~/^(\w+)\/(\w+)\//);
     my $prodir=&propath($adomain,$aauthor);      my $prodir=&propath($adomain,$aauthor);
     if ((tie(%evaldata,'GDBM_File',  # Get metadata except counts
              $prodir.'/nohist_resevaldata.db',&GDBM_READER(),0640)) &&      if (tie(%evaldata,'GDBM_File',
         (tie(%newevaldata,'GDBM_File',              $prodir.'/nohist_resevaldata.db',&GDBM_READER(),0640)) {
              $prodir.'/nohist_new_resevaldata.db',&GDBM_WRCREAT(),0640))) {   my %sum=();
         my %sum=();   my %cnt=();
         my %cnt=();   my %concat=();
         my %listitems=('count'        => 'add',   my %listitems=(
                        'course'       => 'add',         'course'       => 'add',
                        'avetries'     => 'avg',         'goto'         => 'add',
                        'stdno'        => 'add',         'comefrom'     => 'add',
                        'difficulty'   => 'avg',         'avetries'     => 'avg',
                        'clear'        => 'avg',         'stdno'        => 'add',
                        'technical'    => 'avg',         'difficulty'   => 'avg',
                        'helpful'      => 'avg',         'clear'        => 'avg',
                        'correct'      => 'avg',         'technical'    => 'avg',
                        'depth'        => 'avg',         'helpful'      => 'avg',
                        'comments'     => 'app',         'correct'      => 'avg',
                        'usage'        => 'cnt'         'depth'        => 'avg',
                        );         'comments'     => 'app',
         my $regexp=$url;         'usage'        => 'cnt'
         $regexp=~s/(\W)/\\$1/g;         );
         $regexp='___'.$regexp.'___([a-z]+)$';  
         study($regexp);   my $regexp=$url;
         while (my ($key,$value) = each(%evaldata)) {   $regexp=~s/(\W)/\\$1/g;
             $key=&unescape($key);   $regexp='___'.$regexp.'___([a-z]+)$';
             next if ($key !~ /$regexp/);   while (my ($esckey,$value)=each %evaldata) {
             my $ctype=$1;      $key=&unescape($esckey);
             if (defined($cnt{$ctype})) {       if ($key=~/$regexp/) {
                 $cnt{$ctype}++;    my ($item,$purl,$cat)=split(/___/,$_);
             } else {    if (defined($cnt{$cat})) { $cnt{$cat}++; } else { $cnt{$cat}=1; }
                 $cnt{$ctype}=1;    unless ($listitems{$cat} eq 'app') {
             }      if (defined($sum{$cat})) {
             unless ($listitems{$ctype} eq 'app') {   $sum{$cat}+=$evaldata{$_};
                 if (defined($sum{$ctype})) {   $concat{$cat}.=','.$item;
                     $sum{$ctype}+=$value;      } else {
                 } else {   $sum{$cat}=$evaldata{$_};
                     $sum{$ctype}=$value;   $concat{$cat}=$item;
                 }      }
             } else {   } else {
                 if (defined($sum{$ctype})) {      if (defined($sum{$cat})) {
                     if ($value) {   if ($evaldata{$_}) {
                         $sum{$ctype}.='<hr>'.$value;      $sum{$cat}.='<hr>'.$evaldata{$_};
                     }   }
                 } else {      } else {
                     $sum{$ctype}=''.$value;   $sum{$cat}=''.$evaldata{$_};
                 }      }
             }   }
             if ($ctype ne 'count') {      }
                 $newevaldata{$_}=$value;   }
             }   untie(%evaldata);
         }      }
         while (my($key,$value) = each(%cnt)) {  # construct the return hash for non-count data
             if ($listitems{$key} eq 'avg') {      my %returnhash=();
                 $returnhash{$key}=int(($sum{$key}/$value)*100.0+0.5)/100.0;      while ($_=each(%cnt)) {
             } elsif ($listitems{$key} eq 'cnt') {   if ($listitems{$_} eq 'avg') {
                 $returnhash{$key}=$value;      $returnhash{$_}=int(($sum{$_}/$cnt{$_})*100.0+0.5)/100.0;
             } else {   } elsif ($listitems{$_} eq 'cnt') {
                 $returnhash{$key}=$sum{$key};      $returnhash{$_}=$cnt{$_};
             }   } else {
         }      $returnhash{$_}=$sum{$_};
         if ($returnhash{'count'}) {   }
             my $newkey=$$.'_'.time.'_searchcat___'.&escape($url).'___count';   $returnhash{$_.'_list'}=$concat{$_};
             $newevaldata{$newkey}=$returnhash{'count'};      }
         }  # get count
         untie(%evaldata);      if (tie(%evaldata,'GDBM_File',
         untie(%newevaldata);              $prodir.'/nohist_accesscount.db',&GDBM_READER(),0640)) {
    if (! exists($evaldata{$uri})) {
       $returnhash{'count'}='Not Available';
    } else {
       $returnhash{'count'}=$evaldata{$uri};
    }
    untie %evaldata;
     }      }
     return %returnhash;      return %returnhash;
 }  }
     
 # ----------------- Code to enable 'find' subroutine listing of the .meta files  # ----------------- Code to enable 'find' subroutine listing of the .meta files
 require "find.pl";  require "find.pl";
 sub wanted {  sub wanted {
Line 207  if ($wwwid!=$<) { Line 239  if ($wwwid!=$<) {
   
 open(LOG,'>'.$perlvar{'lonDaemons'}.'/logs/searchcat.log');  open(LOG,'>'.$perlvar{'lonDaemons'}.'/logs/searchcat.log');
 print LOG '==== Searchcat Run '.localtime()."====\n\n";  print LOG '==== Searchcat Run '.localtime()."====\n\n";
   $simplestatus='time='.time.'&';
 my $dbh;  my $dbh;
 # ------------------------------------- Make sure that database can be accessed  # ------------------------------------- Make sure that database can be accessed
 {  {
Line 214  my $dbh; Line 247  my $dbh;
     $dbh = DBI->connect("DBI:mysql:loncapa","www",$perlvar{'lonSqlAccess'},{ RaiseError =>0,PrintError=>0})      $dbh = DBI->connect("DBI:mysql:loncapa","www",$perlvar{'lonSqlAccess'},{ RaiseError =>0,PrintError=>0})
     ) {       ) { 
  print LOG "Cannot connect to database!\n";   print LOG "Cannot connect to database!\n";
    $simplestatus.='mysql=defunct';
    &writesimple();
  exit;   exit;
     }      }
   
     my $make_metadata_table = "CREATE TABLE IF NOT EXISTS metadata (".      my $make_metadata_table = "CREATE TABLE IF NOT EXISTS metadata (".
         "title TEXT, author TEXT, subject TEXT, url TEXT, keywords TEXT, ".          "title TEXT, author TEXT, subject TEXT, url TEXT, keywords TEXT, ".
         "version TEXT, notes TEXT, abstract TEXT, mime TEXT, language TEXT, ".          "version TEXT, notes TEXT, abstract TEXT, mime TEXT, language TEXT, ".
Line 263  my $insert_sth = $dbh->prepare Line 299  my $insert_sth = $dbh->prepare
   
 foreach my $user (@homeusers) {  foreach my $user (@homeusers) {
     print LOG "\n=== User: ".$user."\n\n";      print LOG "\n=== User: ".$user."\n\n";
     # Remove left-over db-files from potentially crashed searchcat run  
     my $prodir=&propath($perlvar{'lonDefDomain'},$user);      my $prodir=&propath($perlvar{'lonDefDomain'},$user);
     unlink($prodir.'/nohist_new_resevaldata.db');  
     # Use find.pl      # Use find.pl
     undef @metalist;      undef @metalist;
     @metalist=();      @metalist=();
Line 279  foreach my $user (@homeusers) { Line 314  foreach my $user (@homeusers) {
         my $m2='/res/'.&declutter($m);          my $m2='/res/'.&declutter($m);
         $m2=~s/\.meta$//;          $m2=~s/\.meta$//;
         &dynamicmeta($m2);          &dynamicmeta($m2);
     if ($ref->{'obsolete'}) { print LOG "obsolete\n"; next; }
    if ($ref->{'copyright'} eq 'private') { print LOG "private\n"; next; }
    &count($m2);
         $delete_sth->execute($m2);          $delete_sth->execute($m2);
         $insert_sth->execute($ref->{'title'},          $insert_sth->execute($ref->{'title'},
                              $ref->{'author'},                               $ref->{'author'},
Line 304  foreach my $user (@homeusers) { Line 342  foreach my $user (@homeusers) {
     # Need to, perhaps, remove stale SQL database records.      # Need to, perhaps, remove stale SQL database records.
     # ... not yet implemented      # ... not yet implemented
                   
     # ------------------------------------------- Copy over the new db-files  
     system('mv '.$prodir.'/nohist_new_resevaldata.db '.  
            $prodir.'/nohist_resevaldata.db');  
 }  }
 # --------------------------------------------------- Close database connection  # --------------------------------------------------- Close database connection
 $dbh->disconnect;  $dbh->disconnect;
 print LOG "\n==== Searchcat completed ".localtime()." ====\n";  print LOG "\n==== Searchcat completed ".localtime()." ====\n";
 close(LOG);  close(LOG);
   &writesimple();
   &writecount();
 exit 0;  exit 0;
   
   
Removed from v.1.34  
changed lines
  Added in v.1.44

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>