lucene-java-3.5.0/lucene/src/test/org/apache/lucene/index/TestIndexFileDeleter.java

   1 package org.apache.lucene.index;
   2
   3 /**
   4  * Licensed to the Apache Software Foundation (ASF) under one or more
   5  * contributor license agreements.  See the NOTICE file distributed with
   6  * this work for additional information regarding copyright ownership.
   7  * The ASF licenses this file to You under the Apache License, Version 2.0
   8  * (the "License"); you may not use this file except in compliance with
   9  * the License.  You may obtain a copy of the License at
  10  *
  11  *     http://www.apache.org/licenses/LICENSE-2.0
  12  *
  13  * Unless required by applicable law or agreed to in writing, software
  14  * distributed under the License is distributed on an "AS IS" BASIS,
  15  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16  * See the License for the specific language governing permissions and
  17  * limitations under the License.
  18  */
  19
  20 import org.apache.lucene.util.LuceneTestCase;
  21 import org.apache.lucene.store.Directory;
  22 import org.apache.lucene.store.IndexInput;
  23 import org.apache.lucene.store.IndexOutput;
  24 import org.apache.lucene.store.MockDirectoryWrapper;
  25 import org.apache.lucene.analysis.MockAnalyzer;
  26 import org.apache.lucene.analysis.WhitespaceAnalyzer;
  27 import org.apache.lucene.document.Document;
  28 import org.apache.lucene.document.Field;
  29 import org.apache.lucene.index.IndexWriterConfig.OpenMode;
  30
  31 import java.io.*;
  32 import java.util.*;
  33
  34 /*
  35   Verify we can read the pre-2.1 file format, do searches
  36   against it, and add documents to it.
  37 */
  38
  39 public class TestIndexFileDeleter extends LuceneTestCase {
  40
  41   public void testDeleteLeftoverFiles() throws IOException {
  42     MockDirectoryWrapper dir = newDirectory();
  43     dir.setPreventDoubleWrite(false);
  44     IndexWriterConfig conf = newIndexWriterConfig(
  45         TEST_VERSION_CURRENT, new WhitespaceAnalyzer(TEST_VERSION_CURRENT))
  46         .setMaxBufferedDocs(10);
  47     LogMergePolicy mergePolicy = newLogMergePolicy(true, 10);
  48     mergePolicy.setNoCFSRatio(1); // This test expects all of its segments to be in CFS
  49     conf.setMergePolicy(mergePolicy);
  50
  51     IndexWriter writer = new IndexWriter(
  52         dir,
  53         newIndexWriterConfig(TEST_VERSION_CURRENT, new MockAnalyzer(random)).
  54             setMaxBufferedDocs(10).
  55             setMergePolicy(mergePolicy)
  56     );
  57
  58     writer.setInfoStream(VERBOSE ? System.out : null);
  59
  60     int i;
  61     for(i=0;i<35;i++) {
  62       addDoc(writer, i);
  63     }
  64     mergePolicy.setUseCompoundFile(false);
  65     for(;i<45;i++) {
  66       addDoc(writer, i);
  67     }
  68     writer.close();
  69
  70     // Delete one doc so we get a .del file:
  71     IndexReader reader = IndexReader.open(dir, false);
  72     Term searchTerm = new Term("id", "7");
  73     int delCount = reader.deleteDocuments(searchTerm);
  74     assertEquals("didn't delete the right number of documents", 1, delCount);
  75
  76     // Set one norm so we get a .s0 file:
  77     reader.setNorm(21, "content", (float) 1.5);
  78     reader.close();
  79
  80     // Now, artificially create an extra .del file & extra
  81     // .s0 file:
  82     String[] files = dir.listAll();
  83
  84     /*
  85     for(int j=0;j<files.length;j++) {
  86       System.out.println(j + ": " + files[j]);
  87     }
  88     */
  89
  90     // The numbering of fields can vary depending on which
  91     // JRE is in use.  On some JREs we see content bound to
  92     // field 0; on others, field 1.  So, here we have to
  93     // figure out which field number corresponds to
  94     // "content", and then set our expected file names below
  95     // accordingly:
  96     CompoundFileReader cfsReader = new CompoundFileReader(dir, "_2.cfs");
  97     FieldInfos fieldInfos = new FieldInfos(cfsReader, "_2.fnm");
  98     int contentFieldIndex = -1;
  99     for(i=0;i<fieldInfos.size();i++) {
 100       FieldInfo fi = fieldInfos.fieldInfo(i);
 101       if (fi.name.equals("content")) {
 102         contentFieldIndex = i;
 103         break;
 104       }
 105     }
 106     cfsReader.close();
 107     assertTrue("could not locate the 'content' field number in the _2.cfs segment", contentFieldIndex != -1);
 108
 109     String normSuffix = "s" + contentFieldIndex;
 110
 111     // Create a bogus separate norms file for a
 112     // segment/field that actually has a separate norms file
 113     // already:
 114     copyFile(dir, "_2_1." + normSuffix, "_2_2." + normSuffix);
 115
 116     // Create a bogus separate norms file for a
 117     // segment/field that actually has a separate norms file
 118     // already, using the "not compound file" extension:
 119     copyFile(dir, "_2_1." + normSuffix, "_2_2.f" + contentFieldIndex);
 120
 121     // Create a bogus separate norms file for a
 122     // segment/field that does not have a separate norms
 123     // file already:
 124     copyFile(dir, "_2_1." + normSuffix, "_1_1." + normSuffix);
 125
 126     // Create a bogus separate norms file for a
 127     // segment/field that does not have a separate norms
 128     // file already using the "not compound file" extension:
 129     copyFile(dir, "_2_1." + normSuffix, "_1_1.f" + contentFieldIndex);
 130
 131     // Create a bogus separate del file for a
 132     // segment that already has a separate del file:
 133     copyFile(dir, "_0_1.del", "_0_2.del");
 134
 135     // Create a bogus separate del file for a
 136     // segment that does not yet have a separate del file:
 137     copyFile(dir, "_0_1.del", "_1_1.del");
 138
 139     // Create a bogus separate del file for a
 140     // non-existent segment:
 141     copyFile(dir, "_0_1.del", "_188_1.del");
 142
 143     // Create a bogus segment file:
 144     copyFile(dir, "_0.cfs", "_188.cfs");
 145
 146     // Create a bogus fnm file when the CFS already exists:
 147     copyFile(dir, "_0.cfs", "_0.fnm");
 148
 149     // Create a deletable file:
 150     copyFile(dir, "_0.cfs", "deletable");
 151
 152     // Create some old segments file:
 153     copyFile(dir, "segments_2", "segments");
 154     copyFile(dir, "segments_2", "segments_1");
 155
 156     // Create a bogus cfs file shadowing a non-cfs segment:
 157     assertTrue(dir.fileExists("_3.fdt"));
 158     assertTrue(!dir.fileExists("_3.cfs"));
 159     copyFile(dir, "_1.cfs", "_3.cfs");
 160
 161     String[] filesPre = dir.listAll();
 162
 163     // Open & close a writer: it should delete the above 4
 164     // files and nothing more:
 165     writer = new IndexWriter(dir, newIndexWriterConfig(TEST_VERSION_CURRENT, new MockAnalyzer(random)).setOpenMode(OpenMode.APPEND));
 166     writer.close();
 167
 168     String[] files2 = dir.listAll();
 169     dir.close();
 170
 171     Arrays.sort(files);
 172     Arrays.sort(files2);
 173
 174     Set<String> dif = difFiles(files, files2);
 175
 176     if (!Arrays.equals(files, files2)) {
 177       fail("IndexFileDeleter failed to delete unreferenced extra files: should have deleted " + (filesPre.length-files.length) + " files but only deleted " + (filesPre.length - files2.length) + "; expected files:\n    " + asString(files) + "\n  actual files:\n    " + asString(files2)+"\ndif: "+dif);
 178     }
 179   }
 180
 181   private static Set<String> difFiles(String[] files1, String[] files2) {
 182     Set<String> set1 = new HashSet<String>();
 183     Set<String> set2 = new HashSet<String>();
 184     Set<String> extra = new HashSet<String>();
 185
 186     for (int x=0; x < files1.length; x++) {
 187       set1.add(files1[x]);
 188     }
 189     for (int x=0; x < files2.length; x++) {
 190       set2.add(files2[x]);
 191     }
 192     Iterator<String> i1 = set1.iterator();
 193     while (i1.hasNext()) {
 194       String o = i1.next();
 195       if (!set2.contains(o)) {
 196         extra.add(o);
 197       }
 198     }
 199     Iterator<String> i2 = set2.iterator();
 200     while (i2.hasNext()) {
 201       String o = i2.next();
 202       if (!set1.contains(o)) {
 203         extra.add(o);
 204       }
 205     }
 206     return extra;
 207   }
 208
 209   private String asString(String[] l) {
 210     String s = "";
 211     for(int i=0;i<l.length;i++) {
 212       if (i > 0) {
 213         s += "\n    ";
 214       }
 215       s += l[i];
 216     }
 217     return s;
 218   }
 219
 220   public void copyFile(Directory dir, String src, String dest) throws IOException {
 221     IndexInput in = dir.openInput(src);
 222     IndexOutput out = dir.createOutput(dest);
 223     byte[] b = new byte[1024];
 224     long remainder = in.length();
 225     while(remainder > 0) {
 226       int len = (int) Math.min(b.length, remainder);
 227       in.readBytes(b, 0, len);
 228       out.writeBytes(b, len);
 229       remainder -= len;
 230     }
 231     in.close();
 232     out.close();
 233   }
 234
 235   private void addDoc(IndexWriter writer, int id) throws IOException
 236   {
 237     Document doc = new Document();
 238     doc.add(newField("content", "aaa", Field.Store.NO, Field.Index.ANALYZED));
 239     doc.add(newField("id", Integer.toString(id), Field.Store.YES, Field.Index.NOT_ANALYZED));
 240     writer.addDocument(doc);
 241   }
 242 }