При выполнении pg_basebackup я получил ошибку:

fips.c(145): OpenSSL internal error, assertion failed: FATAL FIPS SELFTEST FAILURE

что это такое и что с этим делать?

Надо сказать, что данная ошибка встречается не только при запуске pg_basebackup для PostgreSQL сервера.

Согласно информации в Википедии:

Федеральные стандарты обработки информации (англ. Federal Information Processing Standards, FIPS) — открыто публикуемые стандарты, разработанные правительством США, используемые всеми гражданскими правительственными учреждениями и контрагентами в США. Многие из стандартов FIPS представляют собой изменённые версии других широко распространённых стандартов (ANSI, IEEE, ISO и т. п.).

Если вы ничего не поняли, то коротко говоря, FIPS это некие стандарты, описывающие особые требования к шифрованию. И если вы получили ошибку, которая приведена выше, то это означает, что ваша операционная система не поддерживает FIPS, а это необходимо программе, выдавшей ошибку.

Как проверить, что ваш Linux поддерживает FIPS? Очень просто. Нужно выполнить команду:

cat /proc/sys/crypto/fips_enabled

и если она вернёт 0, то FIPS не поддерживается.

Как включить поддержку FIPS? Вам необходимо указать загрузчику, использование специальной опции для ядра "fips=1". Для GRUB2 это можно сделать так:

1. В файле /etc/default/grub найдите строку, которая начинается с GRUB_CMDLINE_LINUX= и добавьте в конец этой строки (после quiet) "fips=1". Т.е. например, на моём CentOS 7 строка примет вид:
   

   GRUB_CMDLINE_LINUX="vconsole.keymap=us crashkernel=auto  vconsole.font=latarcyrheb-sun16 rhgb quiet"

2. Пересоздайте файл конфигурации для GRUB2, выполнив команду:
   
   

   grub2-mkconfig -o /boot/grub2/grub.cfg

3. Перезагрузите операционную систему

После чего проверьте, что команда

cat /proc/sys/crypto/fips_enabled

возвращает 1.