development/autotests/unreliableTests

   1 # Regular expressions for tests that should not be executed with
   2 # ctest -L export or ctest -L inverted because they do not work as expected
   3 # (either unreliable or invalid).
   4 #
   5 # Patterns will be automatically enclosed with '^' and '$'.
   6 # Matching tests get the label "unreliable" and do not get the label "export".
   7 #
   8 # TODO: Name problem: *invalid* tests (wrong output) are not *unreliable*.
   9 #   Use "unfit" or "unapplicable" as better label and name of pattern file?
  10
  11
  12 Sublabel: nonstandard
  13 #####################
  14 # Documents with additional requirements,
  15 # e.g. a class or package file not in TeXLive.
  16 # TODO: rename to "extra" or "exotic"?
  17
  18 export/templates/IUCr-article_(dvi|pdf).*
  19 export/templates/kluwer_.*_systemF
  20 export/templates/ectaart_(dvi3|pdf5).*
  21
  22 # requires knitr, requires rjournal.sty (not in TeXLive)
  23 # incompatible with fontspec?
  24 export/templates/RJournal_(dvi3|pdf[45])_systemF
  25
  26 # Requires aa.cls (not in TeXLive).
  27 # Fails with XeTeX/LuaTeX
  28 # Reported upstream (https://www.mail-archive.com/lyx-devel@lists.lyx.org/msg184435.html)
  29 # Is there a new version fixing the problem?
  30 export/examples/aa_sample_(dvi3|pdf[45])_.*
  31 export/templates/aa_(dvi3|pdf[45])_.*
  32
  33 # Requires iucr.cls (not in TeXLive)
  34 # Is there a new version fixing the problem?
  35 # Does LuaTeX produce sensible results?
  36 export/templates/IUCr-article_pdf4_systemF
  37
  38 # Requires acmsiggraph.cls (not in TeXLive)
  39 # see http://wiki.lyx.org/Examples/AcmSiggraph
  40 export/templates/obsolete/ACM-siggraph/ACM-siggraph_(dvi|pdf).*
  41
  42 # R (http://www.r-project.org)
  43 export/examples/sweave.*
  44 # R package knitr (http://yihui.name/knitr)
  45 export/examples/knitr.*
  46
  47 # LilyPond-book version 2.13 or newer.
  48 export/examples/lilypond.*
  49
  50 # svmono.cls
  51 export/examples/springer/svmono.*
  52 # svmult.cls
  53 export/examples/springer/svmult.*
  54
  55 # AEA.cls (see https://wiki.lyx.org/Examples/AEA)
  56 export/templates/AEA.*
  57
  58 # ws-ijmpc.cls, w-ijmpd.cls (see https://wiki.lyx.org/Examples/IJMP)
  59 export/templates/IJMPC.*
  60 export/templates/IJMPD.*
  61
  62 # iopart.cls, iopams.sty, setstack.sty (see https://wiki.lyx.org/Layouts/Iopart)
  63 export/templates/IOP-article.*
  64
  65 # jasatex.cls (see https://wiki.lyx.org/Layouts/JASATeX)
  66 export/templates/JASA.*
  67
  68 # ectaart.cls (see https://wiki.lyx.org/Examples/Econometrica)
  69 export/templates/ectaart.*
  70
  71 # maa-monthly.sty (not in TeXLive)
  72 # http://www.maa.org/sites/default/files/pdf/pubs/maa-monthly.sty
  73 export/templates/maa-monthly.*
  74
  75 # svjour3.cls, svglov2.clo (see https://wiki.lyx.org/Examples/Springer)
  76 export/templates/springer/svjour3.*
  77
  78
  79 Sublabel: needauth
  80 ##################
  81 # Tests that require authorisation to call external programs.
  82 export/examples/gnuplot.*
  83 export/examples/minted-filelisting.*
  84 export/examples/minted-listings.*
  85
  86
  87 Sublabel: erratic
  88 #################
  89 # Tests depending on local configuration, or the phase of the moon.
  90
  91 # Manual export fails the first time but works the second time. (Why?)
  92 export/doc/es/(Customization|Intro)_pdf4_texF
  93
  94 # Missing Cyrillic LICR commands (on first run after changing from tex-fonts)
  95 # (leftover *.aux file?)
  96 export/doc/uk/Intro_pdf4_texF
  97
  98
  99 Sublabel: varying_versions
 100 ##########################
 101 # Test depending on e.g. OS or version of a non-TeX-Live dependency.
 102 # Note that a full, up-to-date TeX Live installation is required so this
 103 # sublabel is about versions of other dependencies.
 104
 105 # Encoding cp858 only supported by some iconv variants
 106 # Gnu iconv only supports it, if configured with "--enable-extra-encodings"
 107 # (see https://www.gnu.org/software/libiconv/)
 108 export/export/latex/cp858_pdf2
 109
 110 # Seminar export with LaTeX fails in latest TeXLive:
 111 export/examples/(|fr/)seminar_(dvi|pdf).*
 112
 113 # since TeXLive18, 8-bit LaTeX defaults to utf-8
 114 # ----------------------------------------------
 115
 116 # `acmart` calls "libertine" as default font.
 117 # With TeXLive < 18, this clashes with LyX setting up 8-bit TeX fonts
 118 # PDF (luatex) and PDF (xetex) (compilation error or wrong fonts).
 119 # See also #9744 allow parallel configuration of TeX and non-TeX fonts.
 120 export/templates/acmart_pdf[45]_texF
 121
 122
 123 Sublabel: wrong_output
 124 ######################
 125 # Export does not fail but the resulting document has errors.
 126 #
 127 # These tests are actually not "unreliable" (different result for different
 128 # runs) but *invalid* (not measuring what they should measure).
 129
 130 # seminar.sty uses Postscript specials or PGF resulting in problems with slide
 131 # size and orientation depending on the output format and viewing application.
 132 # For details see Troubleshooting and the Appendix in examples/seminar.lyx.
 133 export/examples/(|fr/)seminar_(dvi|pdf).*
 134
 135 # Babel-Spanish uses UTF-8 encoded strings if it detects Xe/LuaTeX.
 136 # With "language default" (=="latin9"), Babel strings  come out wrong
 137 # when compiling with Xe/LuaTeX and TeX-fonts.
 138 # - The problem is generic to all Spanish documents but only manifests itself
 139 #   if Babel strings with non-ASCII chars are actually used
 140 #   (the ToC heading, e.g., becomes "ÃŊndice" instead of "Índice").
 141 # - In some cases, export fails
 142 #   (see invertedTests, some more tests fail with TeXLive versions < 18).
 143 # Should we set inputenc to utf8 in the documents to work around the problem?
 144 # (Changing the default in lib/languages requires more tests for utf8 first.)
 145 export/examples/es/(ejemplo_con_lyx|tufte_book)_(pdf5|dvi3)_texF
 146 export/doc/es/.*_(pdf5|dvi3)_texF
 147
 148 # LyX issues
 149 # **********
 150
 151 #6197: „amssymb” with Polish babel: name clash \lll ("<<<" vs. "ł")
 152 # Wrong output with pdflatex
 153 # missing character with XeTeX/LuaTeX and Babel (-> invertedTests)
 154 export/export/latex/6197-polish-amssymb_(dvi|pdf).?
 155
 156 #9681 Run-together words if language is set to Greek
 157 # if inputenc is 8-bit "language default".
 158 # See https://www.lyx.org/trac/ticket/9681#comment:6
 159 # TODO: add separate bug for:
 160 # Definition of "\LyX" needs "\textlatin" in Greek (printed as "ΛΨΞ").
 161 export/.*/el/.*(_texF|(dvi|pdf.?))
 162
 163 # Non-ASCII char in verbatim environment is dropped (with a warning when
 164 # doing this interactively) with ASCII (and hence also with XeTeX).
 165 export/doc/(|de/|es/|fr/)EmbeddedObjects_pdf4_texF
 166
 167 # The following document mixes inTitle layouts and leads to
 168 # likely unintended output. See #10347
 169 export/export/mixing_inTitle_layouts_(pdf|dvi).*
 170
 171 # Characters with accents are not output
 172 # Reported to LuaTeX mailing list here:
 173 # https://www.mail-archive.com/search?l=mid&q=20160831134006.4fewxothddqfeyw4%40steph
 174 # (not expecting much attention because DVI is not given high priority)
 175 export/doc/es/Customization_dvi3_systemF
 176 export/examples/(|es/)(europe|modern)CV_dvi3_systemF
 177
 178 # No termination of LICR macros when textcyr and textgreek is not required
 179 # Cf. #9637 textgreek and textcyr depend on font-encoding, not input encoding
 180 # -> original problem fixed but run-together words in Russian (and Greek)
 181 export/export/latex/ru-accent-ascii_pdf2
 182 export/export/latex/unicodesymbols/009-cyrillic_ru_euc-cn_pdf2
 183
 184 # `acmart` requires PDFlatex:
 185 # * Missing page number in DVI, Postscript, and PDF (ps2pdf)
 186 # * "PDF (ps2pdf)" fails (problem with Postscript) in TeXLive < 2018
 187 export/templates/acmart_dvi.*
 188 #export/templates/acmart_ps # not tested by ctest autotests
 189 export/templates/acmart_pdf
 190
 191 # lyx2lyx back-conversion of "Date" info-inset writes
 192 # the name of the day in English instead of Japanese.
 193 export/examples/ja/multilingual_lyx.*
 194
 195 # No localization of auto-strings with Chinese language under 8-bit TeX
 196 # (ctex font issue with texlive-lang-chinese (from Debian) under pdflatex)
 197 # and only partial localization with non-tex-fonts:
 198 export/export/latex/CJK/zh_CN-toc.*
 199 export/doc/zh_CN/(Intro|Tutorial)_(dvi|pdf).?
 200
 201 # Missing Chinese characters in the DVI (LuaTex)
 202 export/doc/zh_CN/(Intro|Tutorial)_dvi3_systemF
 203
 204 # CJK languages don't change/reset the "language" (which is problematic for
 205 # documents in a language that uses a non-standard font encoding)
 206 # In a Greek document, Latin letters in a text part set to "Chinese"
 207 # come out as Greek letters:
 208 export/export/latex/CJK/el-zh_CN_utf8-cjk.*