lucene-java-3.4.0/lucene/src/java/org/apache/lucene/analysis/LimitTokenCountAnalyzer.java

   1 package org.apache.lucene.analysis;
   2
   3 /**
   4  * Licensed to the Apache Software Foundation (ASF) under one or more
   5  * contributor license agreements.  See the NOTICE file distributed with
   6  * this work for additional information regarding copyright ownership.
   7  * The ASF licenses this file to You under the Apache License, Version 2.0
   8  * (the "License"); you may not use this file except in compliance with
   9  * the License.  You may obtain a copy of the License at
  10  *
  11  *     http://www.apache.org/licenses/LICENSE-2.0
  12  *
  13  * Unless required by applicable law or agreed to in writing, software
  14  * distributed under the License is distributed on an "AS IS" BASIS,
  15  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16  * See the License for the specific language governing permissions and
  17  * limitations under the License.
  18  */
  19
  20 import org.apache.lucene.document.Fieldable;
  21
  22 import java.io.Reader;
  23 import java.io.IOException;
  24
  25 /**
  26  * This Analyzer limits the number of tokens while indexing. It is
  27  * a replacement for the maximum field length setting inside {@link org.apache.lucene.index.IndexWriter}.
  28  */
  29 public final class LimitTokenCountAnalyzer extends Analyzer {
  30   private final Analyzer delegate;
  31   private final int maxTokenCount;
  32
  33   /**
  34    * Build an analyzer that limits the maximum number of tokens per field.
  35    */
  36   public LimitTokenCountAnalyzer(Analyzer delegate, int maxTokenCount) {
  37     this.delegate = delegate;
  38     this.maxTokenCount = maxTokenCount;
  39   }
  40
  41   @Override
  42   public TokenStream tokenStream(String fieldName, Reader reader) {
  43     return new LimitTokenCountFilter(
  44       delegate.tokenStream(fieldName, reader), maxTokenCount
  45     );
  46   }
  47
  48   @Override
  49   public TokenStream reusableTokenStream(String fieldName, Reader reader) throws IOException {
  50     return new LimitTokenCountFilter(
  51       delegate.reusableTokenStream(fieldName, reader), maxTokenCount
  52     );
  53   }
  54
  55   @Override
  56   public int getPositionIncrementGap(String fieldName) {
  57     return delegate.getPositionIncrementGap(fieldName);
  58   }
  59
  60   @Override
  61   public int getOffsetGap(Fieldable field) {
  62     return delegate.getOffsetGap(field);
  63   }
  64
  65   @Override
  66   public String toString() {
  67     return "LimitTokenCountAnalyzer(" + delegate.toString() + ", maxTokenCount=" + maxTokenCount + ")";
  68   }
  69 }