lucene-java-3.5.0/lucene/contrib/analyzers/common/src/test/org/apache/lucene/analysis/fa/TestPersianNormalizationFilter.java

   1 package org.apache.lucene.analysis.fa;
   2
   3 /**
   4  * Licensed to the Apache Software Foundation (ASF) under one or more
   5  * contributor license agreements.  See the NOTICE file distributed with
   6  * this work for additional information regarding copyright ownership.
   7  * The ASF licenses this file to You under the Apache License, Version 2.0
   8  * (the "License"); you may not use this file except in compliance with
   9  * the License.  You may obtain a copy of the License at
  10  *
  11  *     http://www.apache.org/licenses/LICENSE-2.0
  12  *
  13  * Unless required by applicable law or agreed to in writing, software
  14  * distributed under the License is distributed on an "AS IS" BASIS,
  15  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16  * See the License for the specific language governing permissions and
  17  * limitations under the License.
  18  */
  19
  20 import java.io.IOException;
  21 import java.io.StringReader;
  22
  23 import org.apache.lucene.analysis.BaseTokenStreamTestCase;
  24 import org.apache.lucene.analysis.ar.ArabicLetterTokenizer;
  25
  26 /**
  27  * Test the Persian Normalization Filter
  28  *
  29  */
  30 public class TestPersianNormalizationFilter extends BaseTokenStreamTestCase {
  31
  32   public void testFarsiYeh() throws IOException {
  33     check("های", "هاي");
  34   }
  35
  36   public void testYehBarree() throws IOException {
  37     check("هاے", "هاي");
  38   }
  39
  40   public void testKeheh() throws IOException {
  41     check("کشاندن", "كشاندن");
  42   }
  43
  44   public void testHehYeh() throws IOException {
  45     check("كتابۀ", "كتابه");
  46   }
  47
  48   public void testHehHamzaAbove() throws IOException {
  49     check("كتابهٔ", "كتابه");
  50   }
  51
  52   public void testHehGoal() throws IOException {
  53     check("زادہ", "زاده");
  54   }
  55
  56   private void check(final String input, final String expected) throws IOException {
  57     ArabicLetterTokenizer tokenStream = new ArabicLetterTokenizer(TEST_VERSION_CURRENT,
  58         new StringReader(input));
  59     PersianNormalizationFilter filter = new PersianNormalizationFilter(
  60         tokenStream);
  61     assertTokenStreamContents(filter, new String[]{expected});
  62   }
  63
  64 }